Die Nachricht verbreitete sich im Netz wie ein Lauffeuer: Als erstes Land weltweit hat Italien Ende März die Künstliche Intelligenz ChatGPT des Unternehmens OpenAI wegen Datenschutzbedenken gesperrt. Zumindest vorläufig. Denn die italienische Datenschutzbehörde hatte
Inzwischen (Stand 2. Mai 2023) haben die italienischen Behörden die Sperre wieder aufgehoben. Das US-Unternehmen OpenAI habe laut der Deutschen Presse-Agentur (dpa) der Datenschutzbehörde Maßnahmen erläutert, mit denen es den Aufforderungen zum besseren Datenschutz nachkommt. "OpenAI stellt den Dienst in Italien mit verbesserter Transparenz und verbesserten Rechten für europäische Benutzer wieder her", hieß es. Allerdings forderten die italienischen Behörden weitere Maßnahmen. Die Ermittlungen gegen OpenAI würden fortgesetzt.
ChatGPT-Verbot in Italien: Das steckt dahinter
Doch was war passiert, dass sich Italien bemüßigt sah, der KI vorerst einen Riegel vorzuschieben? Im Gespräch mit ZDFheute versucht der italienische Datenschutzbeauftragte Guido Scorza die Reaktion seines Landes zu erklären. "Der Punkt ist, dass ich, wenn ich nicht weiß, wer was mit meinen persönlichen Daten macht, nicht in der Lage bin, die Verwendung meiner persönlichen Daten zu kontrollieren, um meine Rechte auszuüben", erklärte Scorza. Das sei bei ChatGPT der Fall, da OpenAI seine Nutzer nicht ausreichend über die Verwendung ihrer Daten informiere. Jüngst hatten Tech-Größen, wie Elon Musk, einen Entwicklungsstopp für KI gefordert.
ChatGPT 3.5 - und auch seine Weiterentwicklung GPT-4 - basieren darauf, dass das Modell Unmengen von Texten erfasste, um seinen gegenwärtigen Funktionsumfang zu erreichen. ChatGPT wird inzwischen von zahlreichen Unternehmen und für einige Großprojekte genutzt. Italiens Datenschützer sehen laut Scorza ein grundsätzliches Problem darin, wie die KI trainiert wurde. "Wer personenbezogene Daten einer Person verarbeitet, muss diese informieren und vor allem auf der Grundlage einer soliden Rechtsgrundlage handeln, die hier zu fehlen scheint", erklärte er.
Anstoß könnten die italienischen Behörden auch an der bekannt gewordenen Datenschutzpanne um ChatGPT genommen haben. Dabei hatten Nutzer von ChatGPT zum Teil Informationen aus fremden Profilen zu sehen bekommen, wie das Handelsblatt berichtet. OpenAI zufolge ging das Problem auf einen Fehler in einer für ChatGPT verwendeten Software zurück.
Erschwerend hinzu kam offenbar für die italienischen Behörden, dass es keinen Filter gebe, der verhindert, das Kinder im Alter unter 13 Jahren bei der Verwendung von ChatGPT "absolut unangebrachte" Informationen angezeigt bekämen. Neben den eingeleiteten Ermittlungen verbot die italienische Datenschutzbehörde vorsorglich auch jegliche Verarbeitung von Daten von Nutzern aus Italien. ChatGPT ist damit in Italien nicht mehr nutzbar.
Kein ChatGPT in Italien: Das fordert die Datenschutzbehörde von OpenAI
Zwischenzeitlich hatte die italienische Datenschutzbehörde auf ihrer Website eine Mitteilung veröffentlicht, in der sie darlegt, welche Maßnahmen OpenAI ergreifen müsse, damit ChatGPT in Italien wieder nutzbar wird. Die Maßnahmen seien laut der Behörde von der italienischen Staatsanwaltschaft festgelegt und müssten bis zum 30. April umgesetzt werden.
Die Maßnahmen zusammengefasst:
- Information: OpenAI soll auf seiner Website Informationen darüber bereitstellen, welche Modalitäten und Logik für die Datenverarbeitung von ChatGPT maßgeblich sind und die Rechte der betroffenen Personen (Nutzer und auch Nichtnutzer) beschreiben. Für Nutzer aus Italien gelten spezielle Regeln: Sie müssten den Hinweis erhalten, bevor sie ihre Registrierung abschließen. Zudem müssten italienische Nutzer erklären können, dass sie über 18 Jahre alt sind. Auch registrierte Nutzer müssten eine Altersabfrage durchlaufen, bei der minderjährige Nutzer aufgrund des angegebenen Alters herausgefiltert werden können.
- Schutz von Kindern: OpenAI soll unverzüglich ein Altersüberprüfungssystem für die Anmeldung einführen und einen Plan bis 30. September 2023 einführen, mit dem Nutzer unter 13 Jahren sowie Nutzer zwischen 13 und 18 Jahren, für die keine Zustimmung durch Erziehungsberechtigte vorliegt, herausgefiltert werden können.
- Sensibilisierungskampagne: Das Unternehmen soll zudem eine Informationskampagne über Radio, Fernsehen, Zeitungen und Internet durchführen, um die Bürger in Italien über die Verwendung ihrer persönlichen Daten zu informieren.
- Rechtsgrundlage: OpenAI soll alle Verweise auf vertragliche Leistungen streichen und sich "im Einklang mit dem Grundsatz der Rechenschaftspflicht - entweder auf die Einwilligung oder das berechtigte Interesse" als anwendbare Rechtsgrundlage zur Verarbeitung der personenbezogenen Daten stützen.
- Ausübung der Rechte: Nutzer und Nichtnutzer müssen fehlerhafte personenbezogene Daten bei ChatGPT berichtigen lassen oder die Daten löschen lassen können, falls eine Berichtigung nicht möglich ist. Dazu soll OpenAI "leicht zugängliche Instrumente" zur Verfügung stellen, die es Nichtnutzern ermöglichen, ihr Recht auf Widerspruch gegen die Datenverarbeitung auszuüben. Nutzer sollen das gleiche Recht eingeräumt bekommen, wenn " als Rechtsgrundlage für die Verarbeitung ihrer Daten ein berechtigtes Interesse gewählt wird."
ChatGPT: Verbot auch in Deutschland möglich?
Nach dem Fall in Italien fragen sich Nutzer von ChatGPT in Deutschland, ob so ein Verbot auch hierzulande erlassen werden könnte. Denn, wenn ein Land wie Italien - möglicherweise begründete - Datenschutzbedenken zu ChatGPT hat, könnten auch die anderen EU-Länder irgendwann nachziehen. Immerhin hat die Europäische Union die strengsten Datenschutzvorschriften der Welt.
Eine Sprecherin des Bundesbeauftragten für Datenschutz, Ulrich Kelber, sagte gegenüber dem Handelsblatt: "Grundsätzlich ist ein entsprechendes Vorgehen auch in Deutschland möglich." Allerdings fiele der Fall ChatGPT in den Zuständigkeitsbereich der Landesdatenschutzbehörden, weil es sich bei dem Betreiber um ein Unternehmen handele.
Auch das Bundesinnenministerium ließ sich gegenüber dem Handelsblatt nicht zu einem Ausspruch für oder gegen ein ChatGPT-Verbot hinreißen. Man verfolge die Medienberichte über das Vorgehen der italienischen Behörden aufmerksam.
Das Digitalministerium von Ressortchef Volker Wissing (FDP) sprach sich laut des Berichts hingegen klar gegen eine Sperrung von ChatGPT Deutschland aus. „Wir brauchen kein Verbot von KI-Anwendungen, sondern Wege, Werte wie Demokratie und Transparenz zu gewährleisten“, erklärte ein Sprecher des Ministeriums.
Auch der frühere Datenschutzbeauftragte von Baden-Württemberg, Stefan Brink, sieht laut Handelsblatt-Informationen keinen Grund, ChatGPT aus Datenschutzgründen auszubremsen. „Zwar nutzt KI regelmäßig auch personenbezogene Daten zu Trainingszwecken“, sagte der Direktor des wissenschaftlichen Instituts für die Digitalsierung der Arbeitswelt. "Soweit die Daten allerdings aus dem Internet bezogen werden, überwiegen regelmäßig die berechtigten Interessen der Entwickler gegenüber Schutzbedürfnissen von Betroffenen." Dies gelte, sofern KI mit Forschungszielen entwickelt werde. Fragen des Jugendschutzes müssten immer beachtet werden, dies sei aber nicht KI-spezifisch.
„Die deutschen Aufsichtsbehörden sollten daher – anders als die italienischen – die Entwicklung beobachten, aber nicht effekthaschend und öffentlichkeitswirksam vorsorgliche Gegenpositionen aufbauen“, sagte Brink. Es sei nicht die Aufgabe der Behörden, neue Technologien der Digitalisierung aufzuhalten.
Verbot von ChatGPT: Wie sieht es in Europa aus?
Und die Europäische Union? Sie - oder besser gesagt die Europäische Verbraucherorganisation BEUC - hat kurz vor Bekanntwerden der Italien-Sperre eine Pressemitteilung zu ChatGPTs Datenpanne veröffentlicht. In der schreibt Ursula Pachl, stellvertretende Direktorin der BEUC: "Die Verbraucher sind noch nicht bereit für diese Technologie. Sie erkennen nicht, wie manipulativ, wie trügerisch sie sein kann. Sie erkennen nicht, dass die Informationen möglicherweise falsch sind. Ich denke, dieser Vorfall jetzt mit ChatGPT ist sehr wichtig. Es ist eine Art Weckruf für die Europäische Union. Obwohl wir an diesem KI-Gesetz arbeiten, wird es erst in vier Jahren gelten. Und wir haben gesehen, wie schnell diese Entwicklung bei ChatGPT war."
Wie das Portal euronews.de berichtet, debattiere die Europäische Kommission derzeit über die weltweit erste Gesetzgebung zur künstlichen Intelligenz, dem KI-Gesetz. Laut der Vizepräsidentin der Europäischen Kommission und Kommissarin für Digitales, Margrethe Vestager, ist die EU jedoch nicht bereit dazu, künstliche Intelligenzsysteme zu verbieten.
Auf Twitter schrieb sie: "Egal, welche Technologie wir verwenden, wir müssen unsere Freiheiten weiter vorantreiben und unsere Rechte schützen. Deshalb regulieren wir keine KI-Technologien, wir regulieren die Verwendung von KI. Werfen wir nicht in ein paar Jahren weg, was Jahrzehnte gedauert hat, um es aufzubauen."
Es bleiben also die nächsten Schritte der EU abzuwarten, um genauer vorhersehen zu können, ob auch Deutschland ChatGPT einschränkt oder möglicherweise verbietet.
Übrigens: Wenn Sie zu den Nutzern von ChatGPT gehören sollten Sie damit beschäftigen, wie man gute Prompts für die KI formuliert. Wenn Sie Chat GPT-3.5 oder das kostenpflichtige Plus-Modell der KI nicht nutzen möchten, bietet sich auch eine kostenpflichtige Schnittstelle zu WhatsApp an. Es gibt allerdings auch zahlreiche gratis KI-Tools, die Sie nutzen können. Wenn Sie befürchten jemand, könnte Ihnen einen KI-generierten Text vorgesetzt haben, hilft der AI Classifier.