Prof. Dr. Katharina Zweig, RPTU Kaiserslautern-Landau und Mitglied der Enquete-Kommission KI des Deutschen Bundestags, sind KI-Systeme, wie das Large Language Models wie ChatGPT, letztlich nur mit einem plappernden Papagei mit der Fähigkeit zum „Nachdenken Light“ gleichzusetzen. Anlässlich der 48. DAFTA am 14. November 2024 in Köln bezeichnete sie KI-Systeme als Maschinen, die bis heute weder nachdenken, noch analysieren, noch moralische Fragen bewerten. Sie könnten lediglich Texte assoziieren, die aussähen wie das Produkt von Nachdenken, Analyse oder moralischer Bewertung, so Zweig.
Prof. Dr. Louisa Specht-Riemenschneider, Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, Bonn, richtete sich mittels einer Video-Keynote an die DAFTA-Teilnehmer und beleuchtete das Spannungsfeld zwischen KI und Datenschutz. Aktuell sehe es so aus, als ob die Aufsicht über die Einhaltung der Vorgaben der KI-VO nicht bei den Datenschutzaufsichtsbehörden verortet werde, woraus sich Fragen nach der Koordination und Abstimmung bei paralleler Zuständigkeit ergäben.
Auch die anschließende von Prof. Dr. Rolf Schwartmann, GDD-Vorstandsvorsitzender, moderierte Podiumsdiskussion war im Schwerpunkt den Herausforderungen durch den KI-Einsatz in der Praxis und deren Bewältigung gewidmet. Den Beginn der Diskussion machte Gabriela Krader, Konzerndatenschutzbeauftragte Deutsche Post DHL Group; stellv. GDD-Vorstandsvorsitzende, und hob hervor, dass sowohl in KMU als auch großen Konzernen die Vorgabe von Nutzungsbedingungen zwingend ist. Daraufhin monierte Andreas Jaspers, Geschäftsführer der GDD, dass ein Großteil aller Mitarbeitenden im Zuge ihrer Beschäftigung KI-Tools verwendet, jedoch die wenigsten Unternehmen von dieser Praxis Kenntnis haben.
Kristin Benedikt, Richterin am VG Regensburg und GDD-Vorstand, warnte insofern davor, Mitarbeiter von Unternehmen bzw. öffentlichen Stellen zu betrieblichen Zwecken bzw. den Zwecken der öffentlichen Stelle mit privaten KI-Accounts experimentieren zu lassen. Im Rahmen der Diskussion bzgl. des Einsatzes sog. „Schatten-KI“ stellte Benedikt fest, dass, mit Ausnahme von Mitarbeiterexzessen, bei einer dienstlichen Verwendung privater KI-Tools der Arbeitgeber hafte.
David Pfau, Head of Data & Privacy, conreri digital development GmbH; Externer Datenschutzbeauftragter, Bundesverband Digitale Wirtschaft (BVDW), Berlin, appellierte im Rahmen der Diskussion an Betreiber wie auch Anwender bei der Entwicklung und Implementierung von KI-Modellen mitzuwirken. So könne, laut Pfau, der verantwortungsvolle Umgang mit KI selbst gestaltet werden. Andernfalls liefe man Gefahr, auf dem globalen Markt abgehängt zu werden.
Prof. Dr. Rolf Schwartmann betonte das Erfordernis für die Unternehmen und Behörden, ihre Mitarbeiter mit der notwendigen KI-Kompetenz auszustatten. Ein dahingehender Nachweis sei auch aus haftungsrechtlichen Gründen unabdingbar.
Zur GDD: Die GDD wurde 1977 in Bonn gegründet und unterstützt seitdem Unternehmen, insbesondere deren Datenschutzbeauftragte, bei der Lösung der vielfältigen mit Datenschutz und Datensicherheit verbundenen technischen, rechtlichen und organisatorischen Fragen. Sie tritt als gemeinnütziger eingetragener Verein für einen sinnvollen, vertretbaren und technisch realisierbaren Datenschutz ein. Zusammen mit DATAKONTEXT richtet die GDD die Datenschutzfachtagung DAFTA aus, die alljährlich im November in Köln hybrid stattfindet.