Herr Yogeshwar, Geoffrey Hinton gilt als Pionier der Künstlichen Intelligenz. Kürzlich hat er seinen Job bei Google gekündigt, um unbefangen zu sein und besser vor KI warnen zu können. Er sieht den Missbrauch von KI durch mächtige Menschen als größte Gefahr. Teilen Sie seine Meinung?
RANGA YOGESHWAR: Ja, denn wir erleben im Moment den größten Diebstahl in der Menschheitsgeschichte. Die reichsten Unternehmen der Welt wie Microsoft, Apple, Google, Meta oder Amazon bemächtigen sich der Summe des menschlichen Wissens. Also aller Texte, Kunstwerke, Fotografien und so weiter, die in digital verwertbarer Form existieren, um dieses Weltwissen dann in eigentumsrechtlich geschützten Produkten einzumauern. Es gibt dabei keine klare Offenlegung, mit welchen Lerndaten sie die KI trainieren.
Was sind die Folgen davon?
YOGESHWAR: Das Urheberrecht wird missachtet – und zwar bewusst. Inzwischen kann per KI eine Massenproduktion von Plagiaten stattfinden, wobei ganze Berufsstände vor ihrem existenziellen Aus stehen. Metaphorisch betrachtet sind all die Künstler und Autoren die Lehrer der KI. Und jetzt tötet der Schüler seinen Lehrer. Im Kontext von KI greift zudem eine Vielzahl hohler Versprechungen.
Inwiefern?
YOGESHWAR: Die Herren im Silicon Valley versprechen uns immer wieder, Digitalisierung und KI würden helfen, unsere Welt zu verbessern, die Menschen miteinander zu verbinden, den Klimawandel zu bekämpfen, doch in Wahrheit geschieht das glatte Gegenteil: Weltweit erleben wir schon jetzt, wie soziale Netzwerke unsere Gesellschaften polarisieren. Fake News explodieren und gefährden unsere Demokratie. Staatliche Regierungsbehörden können nur langsam reagieren. Und das wird von den großen Playern hemmungslos ausgenutzt. Da werden Fakten geschaffen, die dann nicht mehr rückholbar sind. Es geht also nicht um Weltverbesserung, sondern um die Gier weniger Firmen, die sich wie kapitalistische Kreuzritter verhalten. Es kann nicht sein, dass wir das zulassen.
Sie haben den offenen Brief unterschrieben, in dem KI-Fachleute und zahlreiche andere Menschen fordern, die Entwicklung komplexer KI-Systeme für ein halbes Jahr zu stoppen.
YOGESHWAR: Im Brief geht es nicht darum, die wissenschaftliche Entwicklung generell zu stoppen, sondern darauf hinzuweisen, dass KI-Systeme, die nur in Ansätzen verstanden werden, nicht verfrüht in kommerziellen Produkten eingesetzt werden. Moderne KI ist eine große Blackbox. Plötzlich zeigen Systeme etwa Eigenschaften, mit denen niemand gerechnet hat. Wir verstehen aber nicht, wie sie das machen. Wenn wir solche instabilen Systeme in einer Vielzahl von Bereichen einsetzen, wird es bedenklich.
Was bedeutet das für unsere Zukunft mit KI?
YOGESHWAR: Wir dürfen einer KI, die wir nicht wirklich verstehen, nicht die Macht überlassen. Viele Insider, die sich intensiv mit KI auseinandersetzen, erleben emotional das, was ich auch erlebe: auf der einen Seite eine unglaubliche Faszination für das, was gerade passiert. Aber gleichzeitig fast eine Art Panik. Erstmals in der Geschichte der Menschheit haben wir eine sich selbst verstärkende Technologie. KI wird durch KI immer besser und immer mächtiger. Und wir wissen nicht, wohin das führt.
Warum hat darüber in der Öffentlichkeit bislang zu wenig Reflexion stattgefunden?
YOGESHWAR: Es gibt ein riesiges Kompetenzproblem, denn mit dem technischen Wissen gilt es, die gesellschaftlichen Implikationen zu verstehen. Die Dimensionen von KI zu erkennen, setzt jedoch voraus, dass man sich intensiv damit auseinandersetzt. Und ich stelle fest, dass dieses Wissen in vielen Reihen nicht da ist – zum Beispiel in der Politik. Die Verantwortlichen verstehen selbst nicht, worum es geht. Ich mache ihnen keinen Vorwurf, denn der Fortschritt rast und momentan kommen täglich neue Abhandlungen zu KI heraus.
In Interviews mit der BBC und der New York Times sagte Geoffrey Hinton, KI-Systeme seien aktuell noch nicht intelligenter als der Mensch, könnten es aber bald sein.
YOGESHWAR: Das ist interessant, weil wir häufig Begriffe nutzen, die nicht scharf definiert sind. Was genau heißt "Intelligenz"? Es gibt keine klare wissenschaftliche Definition dafür. Gleiches gilt für Selbstbewusstsein, Intuition oder Kreativität. Bisher haben diese Begriffe ausgereicht, weil wir Menschen meinten zu wissen, was sie bedeuten. Jetzt kommen wir an einen Punkt, an dem das möglicherweise anders ist. Wenn wir die Musik nehmen: Das Wort "komponieren" heißt wörtlich übersetzt "zusammenstellen". Bedeutet Kreativität also, dass man etwas zusammenstellt? Das macht die KI auch.
Das klingt erst einmal nicht so gefährlich.
YOGESHWAR: Heute kann man Musik komponieren, Texte schreiben und Bilder erzeugen, ohne mit Sicherheit sagen zu können, ob eine Maschine oder ein Mensch der Urheber ist. Diese Tatsache zeigt: Wir kommen an Grenzen – auch was die Täuschung betrifft. Wollen wir getäuscht werden? In ein paar Jahren werden wir keinem Video mehr trauen können, weil wir nie wissen: Ist es echt oder eine Fälschung? Doch was sind die Folgen, wenn durch den massenhaften Einsatz die gesamte Kommunikation einer Gesellschaft auf so fundamentale Weise gestört wird?
Was muss passieren, um die Risiken, die Künstliche Intelligenz bergen kann, besser zu kontrollieren?
YOGESHWAR: Wir brauchen dringend eine breite öffentliche Diskussion über das Thema KI, die verschiedene Aspekte wirklich durchleuchtet. Ein Beispiel: der Einsatz von KI im militärischen Bereich und der Einsatz autonomer Waffen. Ihr Destabilisierungspotenzial ist gewaltig. Hier bin ich für ein schnelles weltweites Verbot. Im medizinischen Bereich hingegen offenbaren sich ungeahnte Chancen. Wir müssen also die Sinnhaftigkeit des technischen Fortschritts sehr viel genauer hinterfragen. Ich bin überzeugt, dass KI in einigen Feldern immense Chancen bietet. Aber bei einer so gravierenden Technologie müssen wir auch darüber sprechen, was wir nicht wollen. Das ist schwierig in einer Welt, in der inzwischen ein gnadenloses Wettrennen zwischen den großen Playern im Silikon Valley stattfindet. Wir lassen uns überrollen, ohne etwas entgegenzusetzen. In Deutschland sind mehr Entschiedenheit und Handeln nötig, denn eine Schnecke fängt keinen Hasen.
Zur Person
Ranga Yogeshwar wurde 1959 in Luxemburg geboren. Er studierte Experimentelle Elementarteilchenphysik und Astrophysik und arbeitete danach unter anderem am Schweizer Institut für Nuklearforschung. Mehr als 20 Jahre war er Redakteur beim Westdeutschen Rundfunk – einige Jahre davon leitete er das Ressort Wissenschaft. Seit 2008 arbeitet Yogeshwar als unabhängiger Journalist und Autor. Er zählt zu den führenden Wissenschaftsjournalisten Deutschlands. Ranga Yogeshwar hat vier Kinder und lebt mit seiner Familie in der Nähe von Köln.