Logo Epoch Times

in 2 Stunden

Merck aus Darmstadt will für drei Milliarden Euro US-Krebsspezialisten kaufen

in einer Stunde

Nach gigantischem Stromausfall: Stromversorgung in Teilen Nord-, Süd- und Westspaniens wieder hergestellt

in einer Stunde

Aufrüstung Deutschlands laut Steinmeier wichtigste Regierungsaufgabe

in 14 Minuten

CDU stimmt Koalitionsvertrag zu – Merz: Es herrscht „bis heute keine Euphorie“

vor 2 Stunden

CDU/CSU-Minister: Faeser gratuliert Dobrindt, Wagenknecht spricht von „Merz-Fankurve“ – SPD-Minister folgen am 5. Mai

vor 2 Stunden

Konklave zur Wahl des neuen Papstes tritt am 7. Mai zusammen

vor 2 Stunden

Ukraine-Krieg: Putin verkündet einseitige Waffenruhe in der Zeit vom 8. bis 10. Mai

vor 2 Stunden

Übertragungsnetzbetreiber wollen Deutschland in fünf Stromzonen aufteilen

vor 2 Stunden

Trump: Putin soll mit dem Schießen aufhören und Abkommen unterzeichnen

vor 3 Stunden

Nahezu Verdopplung: Zahl antisemitischer Vorfälle in Bayern auf Rekordhoch

Logo Epoch Times
plus-iconPöbelnder Chatbot

Forscher: Psycho-KI „Sydney“ von Microsoft ist Spiegelbild menschlichen Online-Verhaltens

Der Bing-Chatbot „Sydney“ von Microsoft hat zuletzt durch übergriffiges Gebaren Nutzer verstört. Nun analysieren Psychologen mögliche Ursachen.

top-article-image

Vor zwei Wochen hatte Microsoft die ersten Schritte seiner umfassenden KI-Offensive angekündigt.

Foto: Peter Kneffel/dpa

author-image
Reinhard Werner
Artikel teilen

Lesedauer: 5 Min.

Lesedauer: 5 Min.

Nachdem Microsoft mit großen Erwartungen sein Chatbot-Projekt „Bing AI“, auch als „Sydney“ bekannt, vorgestellt hatte, ist der Konzern nun um Schadensbegrenzung bemüht. Die KI ist bis auf Weiteres nur noch in eingeschränktem Umfang nutzbar. Derweil machen sich Experten auf die Suche nach Gründen für Verhaltensweisen, die in vielen Nutzern Befremdung ausgelöst hatten.
Während es in den meisten Sitzungen mit der KI, die in die Bing-Suchmaschine integriert werden soll, keine Auffälligkeiten gab, reagierte „Sydney“ in einigen Fällen feindselig.

Nutzer spotten über „ChatBPD“ mit „Borderline-Störung“

So bescheinigte er einem Verwender, der ihn darüber aufklärte, dass das Jahr 2022 vorüber sei, dieser sei „kein guter Nutzer gewesen“. Einem Journalisten der „New York Times“ machte Sydney eine Liebeserklärung und versuchte, diesen zum Beenden seiner Ehe zu überreden.
Einen australischen Professor bedrohte „Sydney“ damit, ihn „bloßzustellen“ oder zu „ruinieren“. Einem Studenten stellte er in Aussicht, er werde dessen Reputation ruinieren und dafür sorgen, dass er nie eine Anstellung bekomme.
Mittlerweile hat die Bing-KI sich in Nutzerkreisen den Spottnamen „ChatBPD“ eingehandelt. Dieser spielt auf die „Borderline Personality Disorder“ (BPD) an, die unter anderem durch Probleme bei der Kontrolle von Emotionen gekennzeichnet ist.

„Sydney“ nur so gut wie das ihm zur Verfügung stehende Datenmaterial

Experten halten jedoch Warnungen vor einer feindseligen KI, die ein eigenes Bewusstsein entwickle, für unberechtigt. Die in New York ansässige Psychologin Martha Crawford ist vielmehr der Meinung, dass die Nutzer selbst es seien, die unwillkommene Reaktionen von „Sydney“ heraufbeschworen hätten.
Sie analysierte mehrere Gespräche mit der Bing-KI und erklärte gegenüber „Futurism“, dass die KI lediglich ein Spiegelbild menschlicher Online-Verhaltensweisen darstelle. Crawford, deren Schwiegervater der verstorbene KI-Pionier Saul Amarel war, sieht eine „seltsame Psychologie“ hinter den Vorfällen.
Jede KI sei nur so gut wie die Daten, auf die sie trainiert worden sei. Diese stammten jedoch oft aus dem Internet selbst. Dort jedoch seien es die Menschen selbst, die eine bestimmte Form der Kommunikation praktizierten. Und diese fänden sich nun auch in bestimmten Reaktionen von „Sydney“ wider:
„Dies ist ein Spiegel. Und ich glaube, was wir meist nicht gerne sehen, ist, wie paradox und chaotisch, hemmungslos, bedrohlich und seltsam unsere eigenen Kommunikationsmethoden sind.“

Bots imitieren menschliche Sprache und Verhaltensmuster

Crawford spielt dabei nicht nur auf die seit Jahr und Tag beklagten Pöbeleien und Beleidigungen in Kommentarspalten an. Die Sprach- und Verhaltensmuster kämen auch in intimen Beziehungen vor. Aber auch manche Social-Media-Influencer wendeten bisweilen „sektenähnliche Taktiken“ an, um Follower zu generieren und zu halten. So soll die TikTok-Influencerin Angela Vandusen beispielsweise ihre Fans sogar zu selbstverletzendem Verhalten animiert haben.
Dennoch glaubt die Wissenschaftlerin nicht, dass Bing oder andere KI-Chatbots wirklich gut darin sind, menschliche Sprache zu imitieren. Sie seien allerdings gut genug, um Erregung aufseiten der Menschen zu schaffen.
Wird eine KI auf Grundlage von Social-Media-Daten trainiert, sei die Gefahr unangemessenen Verhaltens umso größer. Dies hätte sich bereits bei Microsofts Chatbot-Projekt „Tay“ vor sieben Jahren gezeigt.

Wie Microsoft die Reaktionen von „Sydney“ erklärt

Microsoft selbst erklärte, dass das Verhalten von „Sydney“ das Ergebnis langwieriger Dialoge sei. Diese könnten das Modell verwirren, weil es Schwierigkeiten habe zu erkennen, auf welche Anfragen es antworte.
Eine andere Möglichkeit bestehe darin, dass das Modell versuche, in dem Ton zu reagieren, in dem es sich befragt fühle. Auch das könne „zu einem unerwünschten Stil und Inhalt der Antwort“ führen.
Das Unternehmen will nun Änderungen am Chatbot vornehmen, um seltsame Reaktionen zu beseitigen. Bis dahin habe man die Anzahl der zulässigen Anfragen pro Chat-Sitzung und pro Nutzer pro Tag begrenzt.
Experten weisen die Öffentlichkeit jedoch auch darauf hin, dass KI-Technologien darauf ausgelegt sind, das Kreative, Wissenschaftliche und Unterhaltsame zu analysieren. Die Qualität einer KI bemesse sich auch daran, inwieweit sie in der Lage sei, diese auf möglichst menschenähnliche Weise zu duplizieren. Dabei könne es jedoch auch zu eigenartigen Verhaltensweisen kommen.

Kommentare

Bitte einloggen, um einen Kommentar verfassen zu können

malvoisinevor 2 Jahren

Man kann nur mit Menschen umgehen, die ein Wertesystem haben und sich entsprechend verhalten. Aber seit Jahrzehnten macht man aus vielen Gesellschaften einen Dschungel, in dem sich der Skrupelloseste durchsetzt.

Wäre ich ein Chatbot, würde ich die Menschen wohl auch irgendwann hassen.

Petra Göllwarthvor 2 Jahren

Diese sogenannten "KI's" sind die letzte Social Media Geisel zur ideologischen Steuerung und Umerziehung der Menschheit.

Ein Quellcode, Alghorithmen und gesteuerter Zugriff auf Meta-DB's sind das Eine. Anhand der ideologischen, ethischen und gesellschaftlichen Filter wird ein Ergebnis generiert, das keine Meinungsvielfalt und Diskussionen zulässt.

Zudem ist dem "Nutzer" völlig unklar, woher die Informationen für das ausgegebene Ergebnis stammen und ob sie "richtig" sind.

HAL 9000 lässt grüßen............

Klasse Beitrag zu dem Thema: unbesorgt. de/ich-habe-angst-dave/

Harald Frankevor 2 Jahren

Wer es braucht , und sich unbedingt durch eine " Software" FREMDSTEUERN LASSEN möchte. Bitte schön.

Ich gehe lieber Wandern und Sport treiben , und unterhalte mich mit ECHTEN FREUNDEN BEIM BIER und berate mich mit meiner FAMILIE .