Neue KI-Regeln: Was ab heute verboten ist – und wo die Polizei eine Ausnahme macht

In der Europäischen Union werden an diesem Sonntag neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft gesetzt. So ist nach dem KI-Gesetz der EU (AI Act) der Einsatz von KI-Programmen verboten, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen nicht geben.

Die Gesichtserkennung im öffentlichen Raum – zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Stichtag 2. Februar

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden.

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Maß an „KI-Kompetenz“ verfügen. Es geht um die Gewährleistung von Transparenz, Sicherheit und ethischen Standards.

Der AI Act klassifiziert KI-Anwendungen nach ihrem Risiko in verbotenes, hohes, begrenztes und minimales Risiko. Verstöße gegen den AI Act können erhebliche Bußgelder nach sich ziehen – bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. (dpa/red)