Seit der Veröffentlichung von ChatGPT Ende 2022 jagt im Bereich der Künstlichen Intelligenz eine Neuerung die Nächste. Zeitgleich rufen die rasanten Entwicklungen aber auch Kritiker auf den Plan. So mahnte zuletzt beispielsweise KI-Pionier Geoffrey Hinton vor den Gefahren der Künstlichen Intelligenz. Das EU-Land Italien ging Ende März sogar so weit und sperrte die Website von ChatGPT komplett für italienische Nutzer. Und auch in Deutschland eröffneten Datenschützer ein Verfahren gegen OpenAI, dem Unternehmen, das ChatGPT entwickelt hat.
Der Sorge, KI-Systeme könnten in Zukunft vollkommen unreguliert weiterentwickelt werden und schädliche Folgen für die Menschheit haben, will die Europäische Union nun entgegentreten. Am Mittwoch hat das Europaparlament für ein Gesetz, den "Artificial Intelligence Act" (AIA) gestimmt. Die EU hat es sich damit zum Ziel gesetzt, der erste Wirtschaftsraum weltweit zu werden, der den Einsatz von Künstlicher Intelligenz gesetzlich regelt.
In den folgenden Abschnitten haben wir für Sie zusammengefasst, was die EU mit dem AIA plant. Dazu haben wir uns die deutsche Version des Gesetzes genauer angesehen.
AI ACT der EU: Zusammenfassung – Das ist geplant
Der Entwurf des AI Acts stammt ursprünglich aus dem Jahr 2021 und wandert nach der Abstimmung im Europaparlament am 14. Juni in den sogenannten Trilog, wo die EU-Staaten laut FAZ bis zum Jahresende weiter über den Gesetzesentwurf verhandeln. Die neuen Regeln werden laut dpa-Informationen voraussichtlich frühestens im Jahr 2026 in Kraft treten. Die EU-Kommission sieht allerdings eine freiwillige Verpflichtung der Unternehmen vor, um die zeitliche Lücke bis dahin zu überbrücken.
Der AI Act soll grob zusammengefasst für alle Anbieter von KI-Systemen, die diese in der Europäischen Union in Verkehr oder in Betrieb nehmen, alle Nutzer von KI-Systemen, die sich in der EU befinden und alle Anbieter und Nutzer von Künstlicher Intelligenz aus Drittländern gelten, wenn die Ergebnisse, die die KI hervorbringt in der Europäischen Union verwendet werden. Ausgenommen sind KI-Systeme, die rein für militärische Zwecke genutzt werden und solche, die von Behörden oder Organisationen im Rahmen internationaler Einkünfte zur Strafverfolgung dienen.
Doch wie genau soll eine so rasant wachsende Technologie wie die Künstliche Intelligenz reguliert werden? Dazu will sich die EU im Rahmen des AI Acts einer Klassifizierung von KI-Systemen als sogenannte "Hochrisikosysteme" bedienen. Sie werden in "risikoarm", "begrenzt riskant", "riskanter" und "verbotene KI" eingeteilt. Ein Hochrisikosystem ist laut dem Gesetzesentwurf ein KI-System, welches ein Risiko für die "Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen" darstellt.
Die EU hat in ihrem Gesetzesentwurf eine gesamte Liste der Systeme veröffentlicht, auf die dies zutreffen könnte. Unter anderem ist dort von KI-Systemen die Rede, die als Sicherheitskomponente in Verwaltung und Betrieb von Straßenverkehr, Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen. Aber auch die sehr umstrittene "Biometrische Identifizierung von Personen" – also Gesichtserkennung im öffentlichen Raum. Letztere soll komplett verboten werden – so der Tenor im Europaparlament.
KI-Verbote: Diese Systeme sind laut AI-Act nicht erlaubt
Bei allen anderen Anwendungen gilt: Je mehr Gefahr von ihr ausgeht, desto strengere Regeln werden für Markteinführung und Betrieb der KI in der EU gelten. Komplett-Verbote sind dabei also nicht ausgeschlossen.
Entwickelt ein Unternehmen ein Hochrisiko-KI-System und bringt es in der EU zum Einsatz soll es laut des AI-Acts so konzipiert sein, dass es für Nutzer ein angemessenes Maß an Transparenz und Datenschutz bietet. Gebrauchsanweisungen für die Systeme sollen beispielsweise präzise und für den Nutzer verständlich bereitgestellt werden und die Nutzer sollen relevante Informationen über die Trainingsdaten erhalten, mit denen die KI trainiert wurde.
Allerdings ist der Gesetzesentwurf auch sehr klar, welche Praktiken im Bereich der Künstlichen Intelligenz verboten sind. Dazu zählen Systeme, die:
- unterschwellige Beeinflussung nutzen, um das Verhalten von Personen so zu beeinflussen, dass diese sich selbst oder anderen Personen schaden.
- eine Schwäche oder Schutzbedürftigkeit einer Personengruppe aufgrund von Alter oder körperlicher oder geistiger Behinderung ausnutzt, um diese Personen zu beeinflussen, sodass sie sich selbst oder anderen Personen Schaden zufügen.
- bestimmte Personen benachteiligen, weil das System zuvor ihre Vertrauenswürdigkeit aufgrund ihres Verhaltens oder bekannter persönlicher Eigenschaften oder Persönlichkeitsmerkmale bewertet hat. Dies gilt für Bewertungen, die in keinem Zusammenhang zu den Umständen stehen unter denen die Daten ursprünglich einmal erhoben wurden oder ungerechtfertigt und unverhältnismäßig sind. Ethnische Merkmale spielen hier eine große Rolle.
- biometrische Gesichtserkennung im öffentlichen Raum zur Strafverfolgung nutzen.
Bei letzterem Punkt schränkt der derzeitige Gesetzesentwurf allerdings ein, dass die biometrische Gesichtserkennung unter bestimmten Bedingungen erlaubt ist. Und zwar, wenn:
- eine solche Gesichtserkennung unbedingt erforderlich ist, um potenzielle Opfer von Straftaten oder vermisste Kinder zu suchen.
- die Gesichtserkennung zur Abwehr einer "konkreten, erheblichen und unmittelbaren Gefahr" für das Leben von Menschen oder zur Vermeidung eines Terroranschlags dient.
- das System dabei hilft, einen Täter oder Verdächtigen zu erkennen, aufzuspüren oder zu verfolgen, wenn gegen diesen ein Europäischer Haftbefehl vorliegt.
Ob eine biometrische Gesichtserkennung in solchen Fällen angewandt wird, soll vorsichtig abgewogen werden und die Art der Situation sowie die Folgen der Verwendung des Systems genau berücksichtigen. Im AI-Act steht zudem, dass für jeden Einsatz einer solchen KI die vorherige Genehmigung durch eine Justizbehörde oder Verwaltungsbehörde des EU-Mitgliedsstaates eingeholt werden muss, in dem das System angewendet werden soll. Im gleichen Absatz steht aber auch:
"In hinreichend begründeten dringenden Fällen kann jedoch mit der Verwendung des Systems zunächst ohne Genehmigung begonnen und die Genehmigung erst während oder nach der Nutzung beantragt werden."
Zudem könnten Mitgliedsstaaten in ihrem nationalen Recht entsprechende weitere Vorschriften und Rahmenbedingungen zum Einsatz der Gesichtserkennung festlegen.
Übrigens: Wenn Sie sich verstärkt mit dem Thema KI auseinandersetzen, sollten Sie sich unbedingt mit den Funktionen und Gefahren der Künstlichen Intelligenz beschäftigen. Um Ihnen einen Überblick zu verschaffen, haben wir Ihnen zudem die elf wichtigsten KI-Unternehmen der Welt aufgelistet.