KI-Sicherheit: Physik-Nobelpreisträger ist stolz, dass Sam Altman entlassen wurde

Für ihre Pionierarbeit an künstlichen neuronalen Netzwerken wurden John Hopfield und Geoffrey Hinton mit dem Nobelpreis für Physik ausgezeichnet. Die Schwedische Akademie der Wissenschaften betonte die Bedeutung ihrer Forschung für das moderne maschinelle Lernen und wies gleichzeitig auf die Herausforderungen durch Künstliche Intelligenz hin.

Profit über Sicherheit

Auch Hinton äußerte sich kritisch und hob die Sicherheit beim KI-Einsatz hervor. Er sei besonders stolz darauf, dass einer seiner ehemaligen Studenten Sam Altman entlassen habe, sagte er während der Nobelpreis-Pressekonferenz (3:32 Min. und 14:48 Min.).

Auf Nachfrage von Matt O’Brien, Journalist der Associated Press, während der anschließenden Fragerunde, führte der Physik-Nobelpreisträger weiter aus: „Bei der Gründung von OpenAI wurde großen Wert auf Sicherheit gelegt. Sein Hauptziel war es, künstliche allgemeine Intelligenz zu entwickeln und sicherzustellen, dass sie sicher ist. Einer meiner ehemaligen Schüler, Ilya Sutskever, war der leitende Wissenschaftler. Im Laufe der Zeit stellte sich heraus, dass es Sam Altman weniger um die Sicherheit als um den Profit ging. Und ich denke, das ist bedauerlich.”

Zuversicht und Besorgnis über Kontrolle durch überlegene KI Systeme

Hopfield und Hinton hatten mit ihrer Forschung zu künstlichen neuronalen Netzwerken und maschinellem Lernen bereits vor Jahrzehnten begonnen. Der 91-jährige Hopfield ist Professor an der Universität Princeton in den USA und wurde von der Akademie insbesondere für die Entwicklung einer „assoziativen“ Speichertechnologie geehrt, die Bilder und andere Arten von Mustern in Daten speichern und rekonstruieren kann.

Mit Blick auf den 76-jährigen Hinton, der eine Professur im kanadischen Toronto innehat, hob die Jury hervor, dass dieser eine Methode erfunden habe, die „selbstständig Eigenschaften in Daten finden“ und so Aufgaben wie etwa die Identifizierung bestimmter Elemente in Bildern übernehmen könne.

Hopfield und Hinton hätten „Werkzeuge aus der Physik verwendet, um Methoden zu entwickeln, die die Grundlage des heutigen leistungsstarken maschinellen Lernens bilden“, fasste die Jury zusammen.

Hilton und Hopfield warnen: KI-Systeme könnten außer Kontrolle geraten

In einem Telefoninterview mit Journalisten am Dienstag gab sich Hinton als begeisterter Nutzer von KI-Tools wie ChatGPT zu erkennen, räumte aber auch ein, dass er Bedenken hinsichtlich der möglichen Auswirkungen der von ihm mitentwickelten Technologie habe. Zwar würde er unter den gleichen Umständen wieder genauso handeln, sagte er. „Aber ich mache mir Sorgen, dass die Folge davon sein könnte, dass Systeme, die intelligenter sind als wir, irgendwann die Kontrolle übernehmen“, fügte der Forscher hinzu.

Hopfield schloss sich Hinton an und forderte ein tieferes Verständnis moderner KI-Systeme, um zu verhindern, dass diese außer Kontrolle geraten. Vor einer Versammlung an der Universität Princeton, zu der er per Videokonferenz sprach, nannte Hopfield die jüngsten Fortschritte in der Technologie „sehr beunruhigend“.

„Man ist daran gewöhnt, dass es Technologien gibt, die nicht nur gut oder nur schlecht sind, sondern Fähigkeiten in beide Richtungen haben“, sagte Hopfield. „Und als Physiker bin ich sehr beunruhigt von etwas, das keine Kontrolle hat (…)“, gab er an.

Künstliche neuronale Netzwerke würden inzwischen eingesetzt, „um die Forschung in so unterschiedlichen Bereichen wie der Teilchenphysik, der Materialwissenschaft und der Astrophysik voranzutreiben“, hob die Vorsitzende des Nobelkomitees für Physik, Ellen Moons hervor. Parallel dazu hätten diese Werkzeuge auch im Alltag Einzug gehalten, etwa bei Gesichtserkennung und Übersetzungsprogrammen.

Die Jury erwähnte allerdings nicht nur die Potenziale von Künstlicher Intelligenz: Die „rasante“ Entwicklung von KI habe „auch Sorgen über unsere gemeinsame Zukunft aufgeworfen“, sagte Moons. „Die Menschen tragen die Verantwortung dafür, diese neue Technologie auf sichere und ethische Weise zu nutzen“, fügte sie hinzu.

Letzter Nobelpreis für ultraschnelle Elektronenbewegungen

Der Nobelpreis ist mit elf Millionen schwedischen Kronen (knapp 968.000 Euro) dotiert, die Vergabe findet am 10. Dezember in Stockholm statt.

Im vergangenen Jahr ging die Auszeichnung für Physik an den in München forschenden ungarisch-österreichischen Physiker Ferenc Krausz, den Franzosen Pierre Agostini und die französisch-schwedische Physikerin Anne L’Huillier, die für ihre Arbeiten zu ultraschnellen Bewegungen von Elektronen im Attosekundenbereich ausgezeichnet wurden.

Die diesjährige Nobelpreis-Saison hatte am Montag mit der Bekanntgabe der Preisträger für Medizin begonnen. Ausgezeichnet wurden die US-Forscher Victor Ambros und Gary Ruvkun für die Entdeckung der MicroRNAs, die eine wichtige Rolle bei der Regulierung von Gen-Aktivitäten spielen. Am Mittwoch und Donnerstag folgen die Nobelpreise für Chemie und Literatur, am Freitag der Friedensnobelpreis und am Montag die Auszeichnung für Wirtschaftswissenschaften. (afp/nos)