EU-Abgeordneter: Neues „KI-Gesetz bringt biometrische Massenüberwachung nach Europa“

Die Europäische Union bekommt ein Regelwerk für den Einsatz von Künstlicher Intelligenz (KI). EU-Binnenmarktkommissar Thierry Breton gab am Freitagabend nach zähen Verhandlungen zwischen den Unterhändlern der Mitgliedstaaten und des Europaparlaments eine politische Vereinbarung für den neuen Rechtsrahmen bekannt.

EU-Parlament und -Rat haben sich auf die Endfassung der geplanten KI-Verordnung geeinigt. Das Gesetz wird vermutlich vor den Europawahlen im Juni kommenden Jahres verabschiedet. Der genaue Text wird in den kommenden Tagen formell geschrieben und veröffentlicht.

Es sind weltweit die ersten Regeln für KI und es kommt von zwei Seiten Kritik. Die einen halten die Regeln für zu streng, die anderen für zu lasch. Die Wirtschaft befürchtet, die künftige EU-Verordnung werde Innovationen hemmen. Aus Sicht von Verbraucherschützern werden die Risiken mancher Anwendungen nicht ernst genug genommen.

Der Kompromiss sieht wohl einige Schlupflöcher vor, schreibt „Netzpolitik.org“. Erst mit dem veröffentlichten Wortlaut würde sich zeigen, ob Social Scoring tatsächlich verboten sei. Derartige Systeme sammeln, bewerten und sanktionieren das soziale Verhalten von Menschen. „Netzpolitik.org“ nimmt an, dass die Einigung „offenkundig etliche Ausnahmen für Strafverfolgungsbehörden“ bietet.

So sollen unter anderem biometrische Identifizierungssysteme in öffentlich zugänglichen Räumen bei bestimmten Straftaten und einer vorherigen richterlichen Genehmigung erlaubt sein. Dies bedeute für die Zukunft Videoaufnahmen in großem Umfang. Damit könne die KI-Verordnung trotz Einschränkungen „einer neuen Form der Massenüberwachung und Vorratsdatenspeicherung den Weg ebnen“. Auch das sogenannte Predictive Policing, der Versuch, aus polizeilichen Daten Vorhersagen abzuleiten, soll erlaubt sein.

Eine „historische“ Vereinbarung

EU-Kommissionspräsidentin Ursula von der Leyen begrüßte das Gesetz am Samstag als „historischen Moment“. Damit würden „die europäischen Werte in eine neue Ära übertragen“, erklärte sie. Bis das Gesetz vollständig in Kraft trete, würden Unternehmen und Entwickler dabei unterstützt, „sich auf die neuen Vorschriften einzustellen“.

EU-Binnenmarktkommissar Thierry Breton bezeichnete die Vereinbarung als „historisch“. „Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt“, schrieb Breton im Kurzbotschaftendienst X, früher Twitter.

Anders sieht das der Bundesverband der Deutschen Industrie. Europa drohe demnach, bei der Schlüsseltechnologie KI nun ins Hintertreffen zu geraten. „Mit der umfassenden Regulierung von KI-Basismodellen und KI-Anwendungen gefährdet der AI Act die Wettbewerbs- und Innovationsfähigkeit sowohl auf Hersteller- als auch auf Anwenderseite“, sagte BDI-Geschäftsführungsmitglied Iris Plöger. Die Regulierung basiere auf unausgereiften Kriterien, die den Unternehmen weniger statt mehr Rechtssicherheit brächten.

Die vorgelegten Vorschriften legen Verpflichtungen für KI auf Grundlage ihrer potenziellen Risiken und Auswirkungen fest. Als besonders riskant wird KI eingestuft, die ein erhebliches Schadenspotenzial etwa für Gesundheit, Demokratie, Umwelt oder Sicherheit hat.

Biometrische Massenüberwachung

Der Europaabgeordnete Dr. Patrick Breyer (Piratenpartei) warnt, dass das Gesetz den Weg für die Einführung biometrischer Massenüberwachung in Europa frei macht. Das neue Gesetz lasse Echtzeit-Gesichtserkennung im öffentlichen Raum etwa zur Suche nach Verdächtigen und Opfern von Straftaten zu, wenn ein EU-Mitgliedstaat dies beschließt.

Breyer dazu: „Einer gesucht, alle überwacht? Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden.“

Die vermeintlichen Ausnahmen seien Augenwischerei. In der Realität sei bisher mit biometrischer Massenüberwachung des öffentlichen Raums noch kein einziger Terrorist gefunden worden. Es sei kein einziger Anschlag verhindert worden. Stattdessen führten diese zu unzähligen Festnahmen Unschuldiger und bis zu 99 Prozent Falschverdächtigungen.

Das Gesetz legitimiere und normalisiere eine Kultur des Misstrauens. Und:

Es führt Europa in eine dystopische Zukunft eines misstrauischen High-Tech-Überwachungsstaats nach chinesischem Vorbild.“

Breyer sieht in der faktischen Erlaubnis zur flächendeckenden Massenüberwachung eine Verletzung des Grundrechts auf Achtung unserer Privatsphäre. Derartige Gesetze, die verdachtslose Massenüberwachung erlauben, seien von den Gerichten immer wieder wegen ihrer Unvereinbarkeit mit den Grundrechten für nichtig erklärt worden. Auch das neue KI-Gesetz sei ein Fall für die Gerichte.

Anja Hirschel, Spitzenkandidatin der Piratenpartei für die Europawahl 2024, fügt hinzu: „Wenn wir zulassen, dass eine Überwachungsinfrastruktur aufgebaut und entsprechende KI-Systeme trainiert werden, ist es erschreckend einfach, unsere gesamten Bewegungen und Begegnungen im Detail auszuspähen. In Zukunft können leicht die Einsatzzwecke, Speicherdauer und Zugriffsbefugnisse erweitert werden. Diese Regelungen öffnen die Büchse der Pandora!“

2021 zeigte eine repräsentative Umfrage, die von YouGov in zehn EU-Ländern im Auftrag Breyers durchgeführt wurde, dass sich eine Mehrheit der Europäer gegen den Einsatz biometrischer Massenüberwachung im öffentlichen Raum ausspricht. 2022 sprach sich das Europäische Parlament noch für ein Verbot biometrischer Massenüberwachung aus.

Systeme zur Emotionserkennung seien ebenfalls weiterhin zugelassen, so die europäische Verbraucherorganisation BEUC. Die Organisation kritisiert den Kompromiss.

35-Stunden-Verhandlungsrunde

Zum Abschluss der am Mittwochnachmittag gestarteten Verhandlungsrunde, die rund 35 Stunden dauerte, hatte von der Leyen in Onlinediensten erklärt, das KI-Gesetz (AI Act) sei eine „weltweite Premiere“. Es handele sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, dem die Menschen „vertrauen“ könnten. Außerdem würden „Sicherheit und Grundrechte von Menschen und Unternehmen“ geschützt.

Noch zu regelnde Details sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

Ein weiterer Streitpunkt war die Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählt etwa GPT. Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basistechnologie an sich. Nun einigten sich die Unterhändler auf bestimmte Transparenzpflichten für diese Modelle.

Weitere Reaktionen

Die Vorsitzende des Digitalausschusses, Tabea Rößner (Grüne), zeigte sich nach der Einigung zufrieden. Mit dem Gesetz bekomme Europa „als erster Kontinent einen ausgewogenen und umfassenden Rechtsrahmen“ für KI.

Zustimmung kam auch vom TÜV-Verband. Europa sende mit dem Regelwerk „ein klares Signal in die Welt: Künstliche Intelligenz muss sicher sein“, erklärte der Geschäftsführer des TÜV-Verbands, Joachim Bühler. „Die Technologie darf Menschen nicht gefährden oder benachteiligen.“

Bundesverkehrs- und Digitalminister Volker Wissing (FDP) hingegen erklärte, er bewerte das Ergebnis „zurückhaltend“. Es habe verhindert werden können, dass sogenannte Allzweck-KI („general-purpose AI“) wie der Chatbot ChatGPT „in den Hochrisikobereich fallen“, teilte Wissing mit. Ob es gelungen sei, dass der Rechtsrahmen „Innovationen“ ermögliche und „die Regulierung verhältnismäßig“ sei, „werden wir uns in den nächsten Tagen sehr genau anschauen“.

Der Technikbranchenverband Bitkom sprach von einem „politischen Schaufenster-Erfolg zu Lasten von Wirtschaft und Gesellschaft“. Der erzielte Kompromiss greife tief in die Technologie ein. „Die EU bindet damit den Unternehmen einen regulatorischen Klotz ans Bein. Das Risiko ist groß, dass europäische Unternehmen durch nicht praxistaugliche Vorhaben der rasanten technologischen Entwicklung künftig nicht folgen können“, sagte Bitkom-Hauptgeschäftsführer Bernhard Rohleder.

Die europäische Verbraucherschutzorganisation BEUC kritisierte dagegen, dass sich die EU zu sehr auf den guten Willen der Unternehmen zur Selbstregulierung verlasse.

„So werden beispielsweise virtuelle Assistenten oder KI-gesteuerte Spielzeuge nicht ausreichend reguliert, da sie nicht als Hochrisikosysteme gelten. Auch Systeme wie ChatGPT oder Bard werden nicht die notwendigen Leitplanken erhalten, damit die Verbraucher ihnen vertrauen können“, hieß es. Die deutsche Verbraucherschutzministerin Steffi Lemke (Grüne) sieht in der KI-Verordnung hingegen einen Schutz für Verbraucher vor den Risiken der neuen Technologie. (afp/dpa/ks)