„Er hat mich angestiftet“: Roboter fördern risikofreudiges Verhalten

Neue Forschungsergebnisse haben gezeigt, dass Roboter Menschen dazu ermutigen können, größere Risiken einzugehen. Das scheint besonders brisant in einer immer stärker vernetzten Welt von KI und autonomen Systemen. Ein besseres Verständnis darüber, ob und wie Roboter die Risikobereitschaft beeinflussen können, könnte dabei klare ethische, praktische und politische Auswirkungen haben.

Dr. Yaniv Hanoch, außerordentlicher Professor für Risikomanagement an der University of Southampton, erklärt: „Wir wissen, dass Druck einer [Freundes-]Gruppe zu einer höheren Risikobereitschaft führen kann. Mit dem immer größer werdenden Ausmaß der Interaktion zwischen Menschen und Technologie, sowohl online als auch physisch, ist es entscheidend, dass wir mehr darüber verstehen, ob Maschinen einen ähnlichen Einfluss haben können.“

Direkte Roboter-Ermutigung setzt Instinkte außer Kraft

In der Fachzeitschrift „Cyberpsychology, Behavior, and Social Networking“ veröffentlichte Dr. Hanoch eine Studie mit 180 Studenten, die den Balloon Analogue Risk Task (BART) absolvierten. BART ist eine Computersimulation, bei der die Teilnehmer einen virtuellen Luftballon durch Drücken der Leertaste aufblasen.

Mit jedem Drücken bläht sich der Ballon etwas auf, außerdem wird dem Spieler ein Penny gutgeschrieben. Die Ballons können jedoch nach dem Zufallsprinzip platzen, was zum Verlust des erspielten Guthabens führt. Um das zu verhindern, kann der Proband – bevor der Ballon platzt – das Geld „abkassieren“ und zum nächsten Ballon übergehen.

Ein Drittel der Teilnehmer absolvierte den Test als Kontrollgruppe, wobei außer ihnen niemand im Raum war. Allen anderen begleitete ein etwa 1,20 Meter großer humanoider Roboter, der entweder nur die Spielregeln erklärte oder auch motivierend im Spielverlauf eingriff. Dabei fragte der Roboter „Pepper“ zum Beispiel: „Warum hast du aufgehört zu pumpen?“

Die Ergebnisse zeigten, dass die Gruppe, die vom Roboter ermutigt wurde, mehr Risiken einging und ihre Ballons signifikant häufiger platzten. Dennoch erspielte diese Gruppe insgesamt mehr Geld. Kein signifikanter Unterschied im Verhalten zeigte sich zwischen den Studenten mit einem stummen Roboter und denen ohne Roboter.

Dr. Hanoch sagte: „Wir konnten beobachten, dass die Teilnehmer der Kontrollgruppe ihr Risikoverhalten nach der Explosion des Ballons zurückschraubten. Die Teilnehmer der Experimentalgruppe riskierten weiterhin so viel wie zuvor. Die direkte [Manipulation] durch einen risikofördernden Roboter schien also die direkten Erfahrungen und Instinkte der Teilnehmer außer Kraft zu setzen.“

Mögliche Gefahren „bedürfen dringender Aufmerksamkeit“

Die Forscher sind nun der Meinung, dass weitere Studien erforderlich sind, um zu sehen, ob sich ähnliche Ergebnisse bei der Interaktion von Menschen mit anderen Systemen der künstlichen Intelligenz (KI), wie digitalen Assistenten oder Bildschirm-Avataren, ergeben.

Dr. Hanoch schlussfolgert: „Angesichts der weiten Verbreitung von KI-Technologie und ihrer Interaktionen mit Menschen ist dies ein Bereich, der dringend der Aufmerksamkeit der Forschungsgemeinschaft bedarf.“

„Auf der einen Seite könnten unsere Ergebnisse Alarm schlagen, dass Roboter Schaden anrichten könnten, indem sie riskantes Verhalten verstärken.“ Andererseits könne man – wenn man die Programmierung umkehrt – Roboter und KI „in präventiven Programmen wie Anti-Raucher-Kampagnen in Schulen und bei schwer erreichbaren Bevölkerungsgruppen, wie zum Beispiel Süchtigen, einsetzen“, so Dr. Hanoch.

Obwohl bislang nicht Teil der (Folge-)Studie, wäre ebenfalls interessant, welchen Einfluss ein Mensch auf die Risikobereitschaft der Spieler hat und ob es beispielsweise zwischen guten Freunden und fremden Personen einen Unterschied gibt.

(Mit Material der Universität Southampton)