Brüssel. Die EU will Künstliche Intelligenz stärker regeln. Ein neues Gesetz soll Überwachungen wie in China verhindern. Aber es gibt Ausnahmen.

In Deutschland und den anderen EU-Staaten wird die Anwendung Künstlicher Intelligenz (KI) zur Verhaltenskontrolle und Überwachungszwecken stark eingeschränkt. Ausdrücklich verboten ist künftig unter anderem die Anwendung von KI-Systemen, mit denen sich Emotionen von Beschäftigten am Arbeitsplatz oder von Schülern im Klassenzimmer erkennen lassen. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken wird verboten.

Das sehen neue Regeln für Künstliche Intelligenz vor, auf die sich das EU-Parlament und die EU-Mitgliedstaaten nach langen Verhandlungen in Brüssel geeinigt haben. EU-Binnenmarktkommissar Thierry Breton sprach von einer „historischen Einigung“: Europa werde der allererste Kontinent, der klare Regeln für die Nutzung von KI setze. Die FDP-Europaabgeordnete Svenja Hahn sagte: „Uns ist es gelungen, die biometrische Massenüberwachung zu verhindern.“

Komplett verboten werden zum Beispiel auch biometrische Systeme zur Kategorisierung von Menschen, die Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Ebenso untersagt wird es, mit Hilfe von Künstlicher Intelligenz Sozialverhalten zu analysieren und zu bewerten, das sogenannte Social Scoring.

Beispiele für solche Anwendungen finden sich aktuell vor allem in China: Präsident Xi Jinping will China nicht nur in wenigen Jahren zur weltweiten Supermacht der KI-Forschung machen – er setzt Künstliche Intelligenz auch zunehmend für ein gigantisches Überwachungssystem ein. In immer mehr chinesischen Städten kontrollieren die Behörden ihre Bürger mit Gesichtserkennungs-Kameras, um Einwohner zu identifizieren, die sich in der Öffentlichkeit „unzivilisiert“ verhalten oder zum Beispiel bei Rot über die Straße gehen – die Betroffenen werden dann mit Bild, Namen und Adresse in sozialen Medien bloßgestellt.

Auch interessant: Esken: Durch Missbrauch von KI drohen uns ernste Gefahren

Tests in China: KI kontrolliert Verhalten von Schülern

An chinesischen Schulen werden „intelligente Klassenzimmer“ getestet, bei denen Verhalten und Konzentration jedes Schülers mit Kameras erfasst und analysiert wird. Komplett untersagt werden diese Emotionserkennungssysteme auch in Europa nicht, ausdrücklich verboten werden sie den Angaben zufolge am Arbeitsplatz und in Bildungseinrichtungen. Es würden zum Beispiel KI-Systeme, mit denen Unternehmen die Gefühle von Verbrauchern erkennen und analysieren können, weiterhin zugelassen sein, warnte die Europäische Verbraucherschutzorganisation Beuc. Dies sei „sehr besorgniserregend“.

Zudem konnten die EU-Mitgliedstaaten Ausnahmen vor allem für die Verbrechensbekämpfung durchsetzen: So ist biometrische Identifizierung im öffentlichen Raum in Echtzeit, also die Auswertung von Videoüberwachung, unter bestimmten Voraussetzungen erlaubt, zum Beispiel bei der Gefahr eines Terroranschlags oder bei der gezielten Suche nach Opfern von Menschenhandel; Voraussetzung ist eine richterliche Genehmigung. In solchen Fällen dürfen Systeme gezielt in Echtzeit Unmengen an Überwachungs-Daten etwa von öffentlichen Plätzen oder Bahnstationen auswerten, damit Fahnder einzelne Personen identifizieren können. Auch der spätere KI-Einsatz zur Auswertung solcher Aufnahmen ist zur gezielten Suche nach Schwerverbrechern erlaubt.

Künstliche Intelligenz wird künftig in der EU besser reguliert. Das Bild zeigt die Zentrale der EU-Kommission, die den Entwurf des KI-Gesetzes vorgelegt hatte.
Künstliche Intelligenz wird künftig in der EU besser reguliert. Das Bild zeigt die Zentrale der EU-Kommission, die den Entwurf des KI-Gesetzes vorgelegt hatte. © Virginia Mayo/AP/dpa | Unbekannt

Um diese Vorgaben wurde in den Verhandlungen lange gestritten, das EU-Parlament hatte eigentlich ein komplettes Verbot der biometrischen Echtzeit-Identifizierung verlangt. Doch habe es massiven Gegenwind der Mitgliedsländer gegeben, sagte die FDP-Abgeordnete Hahn. Diese hätten biometrische Überwachung möglichst unreguliert einsetzen wollen, „nur die deutsche Bundesregierung hatte ein Verbot gefordert.“ Ganz ausgenommen von den Verboten und der gesamten Verordnung sind Systeme, die ausschließlich militärischen Zwecken dienen.

Empfohlener externer Inhalt
An dieser Stelle befindet sich ein externer Inhalt von einem externem Anbieter, der von unserer Redaktion empfohlen wird. Er ergänzt den Artikel und kann mit einem Klick angezeigt und wieder ausgeblendet werden.
Externer Inhalt
Ich bin damit einverstanden, dass mir dieser externe Inhalt angezeigt wird. Es können dabei personenbezogene Daten an den Anbieter des Inhalts und Drittdienste übermittelt werden. Mehr dazu in unserer Datenschutzerklärung

So regelt die EU Nutzung von Künstliche Intelligenz

Mit dem neuen Gesetz versucht die EU eine Gratwanderung: Einerseits sollen Grundrechte, Demokratie und Rechtsstaatlichkeit auch im Zeitalter Künstlicher Intelligenz geschützt werden – andererseits will die EU Innovationen fördern in der Hoffnung, dass europäische Unternehmen eine Führungsrolle bei KI-Systemen spielen könnten. Deshalb werden KI-Systeme nun in verschiedene Risikogruppen eingeteilt: Je höher die möglichen Gefahren einer Anwendung, desto höher sollen die Anforderungen sein.

Als hochriskant werden etwa Systeme eingestuft, die Schaden für Gesundheit, Sicherheit, Grundrechte und Demokratie verursachen können – dazu zählen Systeme zur Beeinflussung des Wahlergebnisses und des Wählerverhaltens, aber auch bei Sicherheitsbehörden. Hier sind unter anderem Folgeabschätzungen, Kontrolle durch den Menschen und die Bewertung systemischer Risiken vorgeschrieben. Für Systeme wie ChatGPT oder Bard gibt es Transparenzanforderungen, etwa die Erstellung technischer Dokumentationen und die Einhaltung des EU-Urheberrechts. Entwickler müssen klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Lesen Sie auch: Umfrage: Künstliche Intelligenz macht Fachkräften Angst

Verbraucherschützer warnen vor Spielzeug mit KI

Die europäische Verbraucherschutzorganisation Beuc kritisierte, dass sich die EU zu sehr auf den guten Willen der Unternehmen zur Selbstregulierung verlasse. „So werden beispielsweise virtuelle Assistenten oder KI-gesteuerte Spielzeuge nicht ausreichend reguliert, da sie nicht als Hochrisikosysteme gelten. Auch Systeme wie ChatGPT oder Bard werden nicht die notwendigen Leitplanken erhalten, damit die Verbraucher ihnen vertrauen können“, erklärte der Verbraucherverband. EU-Kommissionspräsidentin Ursula von der Leyen sagte: „Künstliche Intelligenz verändert schon heute unseren Alltag. Und das ist erst der Anfang. Wenn KI klug und umfassend eingesetzt wird, verspricht sie enorme Vorteile für unsere Wirtschaft und Gesellschaft.“

Der CDU-Abgeordnete Axel Voss sagte, es sei gelungen, Überregulierung zu verhindern und für mehr Flexibilität im Interesse der Innovation in Europa zu sorgen. Die politische Einigung sei ein wichtiger, aber nicht der letzte Schritt: „Die entscheidende Arbeit an den technischen Details wird fortgesetzt. Wir müssen sicherstellen, dass alles, was vereinbart wurde, in der Praxis funktioniert“, sagte Voss. Nach Abschluss dieser Beratungen müssen EU-Parlament und Rat der Mitgliedstaaten die Einigung abschließend absegnen, das gilt aber als Formsache.

Auch interessant: Deepfake-Video von Kanzler Scholz sorgt für Empörung