Applaus brandete auf im weiten Saalrund des Europäischen Parlaments in Straßburg, als es endlich geschafft war. 513 Europaabgeordnete hatten gerade für den sogenannten Artificial Intelligence Act gestimmt, nur 46 dagegen: Damit unterstützte die überwältigende Mehrheit der EU-Abgeordneten am Mittwoch den neuen Rahmen für künstliche Intelligenz (KI). Es war das finale Votum, nun kann das Gesetz in Kraft treten.
Entsprechend groß war die Erleichterung im Kreis der Verhandler. Als „Quantensprung in Richtung einer ethischen und nachhaltigen KI-Regulierung“ pries der Grünen-Abgeordnete Sergey Lagodinsky das neue Gesetz, das zeige, „dass wir keinen Wilden Westen für KI in der EU wollen, sondern Innovation, die dynamisch bleibt und sich an Regeln hält“.
Europäer haben Pionierarbeit in Sachen KI geleistet
Es handelte sich buchstäblich um Pionierarbeit, die die Europäer mit diesem Gesetz leisteten. Sie waren aufgefordert, Antworten zu liefern auf Fragen, die im Detail überhaupt noch nicht bekannt sind. Der SPD-Europaparlamentarier René Repasi sprach denn auch von einem „bedeutenden Meilenstein in der Regulierung der Risiken, die KI für Arbeitnehmer und Verbraucher mit sich bringt“. Dieser ebne den Weg „für einen verantwortungsvollen Einsatz mit minimierten Risiken“. Die Gesetzgeber hoffen, dass sie mit der Vorschrift über die europäischen Grenzen hinaus Wirkung erzielen. Das Phänomen, das durch die sanfte Macht des europäischen Binnenmarkts zustande kommt, wird auch „Brüssel-Effekt“ genannt. Werden sich andere Regionen in der Welt anschließen?
Als Zauberformel gilt der risikobasierte Ansatz. So werden KI-Systeme künftig stufenweise in Risiko-Kategorien unterteilt. KI-gestützte Videospiele gelten beispielsweise als risikoarm und sind nicht der neuen Verordnung unterworfen. Dagegen soll die Nutzung bei einem untragbaren Risiko verboten oder durch Transparenzpflichten begrenzt werden, um die Grundrechte der Verbraucher zu schützen.
Soziale Bewertung von Bürgern wie in autoritären Systemen ist inakzeptabel
„Inakzeptabel“ wären etwa Anwendungen zur sozialen Bewertung von Bürgern wie üblich in autoritären Systemen, etwa in China. Das heißt, in Europa sind keine KI-Systeme erlaubt, die Bürger nach Kriterien wie der sexuellen Orientierung, der Hautfarbe oder politischen und religiösen Ansichten einteilt. Wird eine KI als hochriskant klassifiziert und könnte damit potenzielle negative Auswirkungen auf individuelle Rechte, Datenschutz oder Diskriminierung haben, werden deren Anbieter und Nutzer, ob in der Bildung, Medizin oder Justiz, besonders in die Pflicht genommen. Sie müssen dann geeignete Schutzmaßnahmen einführen, etwa wenn es um den Einsatz von KI bei Wahlen, kritischer Infrastruktur oder für die Prüfung der Kreditwürdigkeit von Privatpersonen oder Unternehmen geht. Hier soll es ein Recht auf menschliche Überprüfung geben.
EVP-Abgeordneter Voss zweifelt, ob die Technologie so reguliert werden kann
Gleichwohl sei „eine simple und unbedenkliche KI“, die in einem Hochrisiko-Bereich wie der Medizin eingesetzt wird, „nicht automatisch Hochrisiko“, sagte die FDP-Europaabgeordnete Svenja Hahn und nannte als Beispiel das Terminvergabesystem beim Arzt. Der christdemokratische EU-Parlamentarier Axel Voss erkannte in der Verordnung „Licht und Schatten“. So äußerte er etwa Zweifel, „ob das KI-Gesetz wirklich geeignet ist, eine sich ständig weiterentwickelnde Technologie zu regulieren“. Der Text sei „extrem vage, während das System aus europäischen und nationalen Aufsichtsbehörden viel zu kompliziert ist“. Der CDU-Politiker appellierte deshalb an den öffentlichen und privaten Sektor, „sehr gut“ zusammenzuarbeiten.
Umstritten in den Verhandlungen war vor allem, inwieweit künstliche Intelligenz zur Überwachung im öffentlichen Raum eingesetzt werden darf. Nachdem die Mitgliedstaaten – erfolgreich – auf weitreichende Maßnahmen, vor allem zur Strafverfolgung, gepocht hatten, zeigten sich einige EU-Parlamentarier in diesem Punkt enttäuscht über den finalen Kompromiss. „Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt“, kritisierte die Linken-Europaabgeordnete Cornelia Ernst. Sie befürchtet Massenüberwachung. „Ich hätte mir noch stärkeren Schutz von Bürgerrechten gewünscht“, sagte auch die Liberale Hahn.
Biometrische Gesichtserkennung ist – in engen Grenzen – erlaubt
So wird biometrische Gesichtserkennung in Echtzeit künftig an öffentlichen Plätzen in engen Grenzen erlaubt sein, etwa wenn es um die Identifizierung von konkret gesuchten Personen geht, die im Zusammenhang mit schweren Straftaten wie Entführung, Menschenhandel oder Vergewaltigung stehen, oder falls eine akute Terrorgefahr besteht. Aufgezeichnetes Material darf außerdem zur Fahndung nach Verurteilten oder Verdächtigen genutzt werden – mit vorheriger richterlicher Genehmigung.