Sevilla: EU will Algorithmen bei Online-Riesen auseinandernehmen

Die Europäische Union möchte dafür sorgen, dass große Online-Riesen wie Facebook oder TikTok sicherer für ihre Nutzer werden, indem sie undurchsichtige Entscheidungen von Softwaresystemen im Internet transparenter macht. Das Europäische Zentrum für Algorithmen-Transparenz (ECAT), das am 18. April im spanischen Sevilla eröffnet wurde, soll dabei eine maßgebliche Rolle spielen.

Um die Mechanismen hinter Hassreden, Desinformationskampagnen oder psychischen Gefahren für Kinder tatsächlich zu verstehen, wollen EU-Beamte in Zukunft das Herz und die Seele der Plattformen auseinandernehmen: Wie arbeiten die Empfehlungssysteme? Was für Algorithmen liegen ihnen zugrunde? Welche gesellschaftlichen Auswirkungen hat all das?

Während der Veranstaltung unter dem Motto „Let’s open the black box“ erklärt Carme Artigas, Staatssekretärin für Digitalisierung und Künstliche Intelligenz, dass „die Einführung von KI nicht das Ende des Spiels sei: Die große Herausforderung bestehe darin, das Gesetz einzuhalten.“

🔚 Enhorabuena a @EU_ScienceHub y la @ComisionEuropea por el Centro 🇪🇺 de Transparencia Algorítmica #ECAT. Y gracias por ubicar en 🇪🇸 una sede fundamental en la implantación de la #DigitalServicesAct.

Let’s open the black box 🔓 pic.twitter.com/FGTaMmKTsw

— S.E. Digitalización e Inteligencia Artificial (@SEDIAgob) April 18, 2023

Weiter erläuterte Artigas die spanische Strategie, wie die Onlinezeitung „El espagnol“ berichtete. Demnach stütze diese sich laut der Staatssekretärin nicht nur auf die Eröffnung des ECAT in Sevilla. Hinzu kommt das Pilotprojekt der KI-Verordnung, die Einrichtung der staatlichen Agentur für die Überwachung der KI in La Coruña sowie die rotierende Präsidentschaft der Europäischen Kommission, die Spanien im zweiten Halbjahr 2023 innehaben wird.

DSA: Das Regelwerk gegen illegale Inhalte

Das Regelwerk, das Ordnung in den „Wilden Westen“ des Internets bringen soll, ist das Gesetz über digitale Dienste (Digital Services Act, DSA). Bislang setzt die EU im Kampf gegen illegale Inhalte vor allem auf Selbstverpflichtungen der Dienste. Der DSA soll nun unter anderem sicherstellen, dass Plattformen Hassrede und gefälschte Produkte und anderes von ihren Seiten schneller entfernen.

Für die ganz großen Plattformen sollen besonders scharfe Vorgaben gelten. Die EU-Kommission wird auf Grundlage der Nutzerzahlen in den kommenden Tagen bestimmen, wer darunter fallen wird.

Facebook, Instagram, YouTube oder Twitter dürften aber dazu gehören. Sie alle organisieren ihre Dienste maßgeblich über Künstliche Intelligenz (KI) – also Algorithmen. Und da kommt das ECAT ins Spiel.

Warnungen vor unkontrollierbaren Programmen

KI ist seit Langem maßgeblich dafür verantwortlich, wie Nutzer das Internet erleben: Welchen Song hören wir als Nächstes? Welcher Beitrag wird angezeigt? Welche Ergebnisse erscheinen bei der Suche? Welches Produkt soll gekauft werden?

Algorithmen bestimmen so wesentlich die Wahrnehmung der Welt und werden immer ausgefeilter. Einigen bereitet das große Sorgen. Sie warnen davor, dass die selbstlernenden Programme unkontrollierbar werden könnten.

Für globale Aufmerksamkeit sorgt derzeit vor allem ChatGPT, dessen Antworten aus ausformuliertem Text bestehen, der oft nicht als computergeneriert erkennbar ist. Mittlerweile gibt es auch Programme, die auf Basis weniger Wörter Bilder erzeugen. Das Risiko, dass solche Technologien für Fake News genutzt werden könnten, ist groß. Mehrere EU-Abgeordnete forderten zuletzt einen globalen Gipfel zu den Gefahren von Künstlicher Intelligenz.

Zurück ins spanische Sevilla, wo ECAT-Wissenschaftler daran arbeiten, dass sich die amerikanischen Onlinegiganten an europäische Regeln halten. Ein Team aus 30 Mitarbeitern, darunter KI-Experten sowie Daten- und Sozialwissenschaftler, wird die EU-Kommission künftig bei der Durchsetzung des DSA beraten und sich mit weiteren Fachleuten austauschen. Letztlich liegt die Hoheit über die Regeln nicht in Sevilla, sondern in Brüssel.

Einmal jährlich Risikobewertung durch EU

Bei der EU-Kommission müssen die Plattformriesen künftig einmal im Jahr eine Risikobewertung mit Blick auf schädliche Inhalte vorlegen – samt möglicher Gegenmaßnahmen. Der erste Bericht ist bis September fällig. Dabei könne es etwa um die Frage gehen, ob die psychische Gesundheit von Kindern gefährdet sei.

Die Berichte werden von der EU-Kommission geprüft, auch die Öffentlichkeit, Forscher oder Journalisten haben Einsicht. Die EU-Kommission könnte weitere Informationen anfordern, Entwickler befragen, Details zum Testumfeld der Plattformen anfordern und auch den Code der Algorithmen. Wer sich nicht an die Regeln hält, dem drohen Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes.

Teil der Regeln ist auch, dass Unternehmen illegale Inhalte zügig entfernen müssen, wenn sie darüber informiert werden. Für die Nutzer wird es einfacher, solche Inhalte zu melden. Doch ist die EU mit diesem Gesetz tatsächlich auf der Höhe der Zeit?

In der Kommission gibt man sich selbstbewusst. Renate Nikolay aus der zuständigen Generaldirektion spricht von „Hardcore-Pflichten“. Es gebe die große Erwartung, dass die EU nicht nur gut darin sei, Regeln aufzustellen, sondern auch Änderungen bringe. „Die Welt schaut uns zu“, sagte Nikolay vergangenen Dienstag.

(mit Material von dpa)