KI-Gesetz der EU endgültig beschlossen

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten in Brüssel den Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard für die Regulierung von KI setzen.

Gleichzeitig sollen die Achtung der Grundrechte der EU-Bürger gewährleistet sowie Investitionen und Innovation im Bereich der künstlichen Intelligenz in Europa angekurbelt werden.

In der neuen Vorschrift werden verschiedene Arten künstlicher Intelligenz nach Risiken kategorisiert. Für KI-Systeme mit begrenztem Risiko sollen nur geringe Transparenzpflichten gelten, während Hochrisiko-KI-Systeme zugelassen würden, aber bestimmte Anforderungen und Verpflichtungen erfüllen müssten, um Zugang zum EU-Markt zu erhalten.

„Der Erlass des KI-Gesetzes ist ein bedeutender Meilenstein in der Geschichte der EU“, sagte die belgische Vizepremierministerin Petra De Sutter. „Mit dieser wegweisenden Vorschrift – der weltweit ersten ihrer Art – wird eine globale technologische Herausforderung, durch die auch Chancen für unsere Gesellschaften und Volkswirtschaften geschaffen werden, angegangen.“

Kein „Social Scoring“ wie in China

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.

Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen.

Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten („Social Scoring“). Damit werden in China Bürger in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.

Betroffen sind vor allem Anbieter und Betreiber von KI-Systemen

Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Unter bestimmten Umständen soll es Strafverfolgungsbehörden gestattet werden, Hochrisiko-KI-Instrumente zu nutzen.

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU.

„Regulierungsarbeit beginnt jetzt erst“

Der Digitalverband Bitkom kritisierte, dass das nun beschlossene KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst.

Ob KI in Deutschland und Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen in Deutschland umgesetzt würden.

Bundesdigitalminister Volker Wissing räumte ein, dass der Gesetzgeber bei einer so sich schnell verändernden Technologie wie KI dauerhaft gefordert sei.

„Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären“, sagte der FDP-Politiker. „Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern.“ Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde.

Ki, die absichtlich lügt

Forscher um Peter Park vom Massachusetts Institute of Technology (MIT) forderten dringend striktere Maßnahmen gegen KI-Systeme – nachdem sie herausgefunden hatten, dass diese absichtlich lügen und täuschen, um bestimmte Ziele zu erreichen. „Wenn autonome KI-Systeme auch menschliche Kontrollinstanzen erfolgreich täuschen, dann könnten wir die Kontrolle über solche Systeme verlieren.“

Das Team konzentrierte sich bei seinen Forschungen auf „gelernte Täuschung, bei der KI falsche Informationen absichtlich einsetzt“. Sie werteten unter anderem das Verhalten von GPT-4 aus, aber auch die in Diplomatie geschulte KI Cicero von Meta. Selbst letztere spielte alles andere als fair, belog Mitspieler systematisch oder brach Versprechen und Bündnisse, wenn sie dem eigenen Ziel nicht mehr nützlich waren.

Ihr Fazit: KI-Systeme können selbst dann das Täuschen lernen, „wenn wir versuchen, sie als ehrliche Systeme zu konstruieren“, warnten die Forscher. Auch bei den Sicherheitsmaßnahmen manipulierten und betrogen die KIs.

Bei Verstößen drohen Geldstrafen

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten.

Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen. (dpa/dts/red)