Rumänien: Eine KI als Sprachrohr für das Volk

Ein neuer Berater des rumänischen Premierministers Nicolae Ciucă heißt ION, ein sprechender Roboter, der auf künstlicher Intelligenz basiert. Das von rumänischen Forschern entwickelte System hat seinen Namen von dem rumänischen Wort „noi“, was „wir“ bedeutet.

Der spiegelbildliche Name ION zeigt, was er tun soll: dem Premierminister die Ansichten der rumänischen Gesellschaft widerspiegeln. Zudem sieht er aus wie ein Spiegel in der Größe eines Menschen. Die gesamte Oberfläche des Spiegels ist ein Bildschirm. Der Premierminister gab eine kleine Demonstration vor dem spiegelähnlichen Bildschirm bei der Kabinettssitzung Anfang März (hier ab Minute 10:00, Video).

„Das ION-Projekt ist ein System, das künstliche Intelligenz nutzt, um schnell und automatisch die Meinungen, Ansichten und Wünsche der Rumänen aus den Informationen in den sozialen Medien zu erfassen“, erklärte der Premierminister laut der Nachrichtenagentur MTI.

Die Entwicklung des Projekts findet im Rahmen einer gemeinnützigen Partnerschaft von mehreren rumänischen Universitäten und Unternehmen statt.

ION möchte lernen – und wird Veranstaltungen besuchen

Der Roboter weiß noch nicht viel über seine Umgebung. In der Praxis soll seine Existenz ein kontinuierlicher Lernprozess sein. Dabei soll er nicht nur in der Lage sein, sich selbstständig zurechtzufinden, beispielsweise in sozialen Netzwerken, sondern auch von der rumänischen Bevölkerung unterrichtet zu werden. Auf einer Projektwebsite kann jeder die KI kontaktieren. Es ist noch nicht klar, wie ION reagieren wird. Bisher bedankt die KI sich laut Medienberichten nur für die erhaltenen Informationen und hat keine Fragen beantwortet.

Die gesammelten Informationen werden an die Regierung weitergeleitet, verarbeitet und analysiert. Außerdem erstellt die künstliche Intelligenz Zusammenfassungen auf Grundlage der Informationen, die die Software erhält. ION erstattet dem Regierungschef Bericht darüber, worüber sich die Menschen Sorgen machen, was die wichtigsten Themen sind, wie die öffentliche Stimmung ist.

Es ist auch geplant, dass ION später an verschiedenen Veranstaltungen teilnimmt, um „live“ Informationen zu sammeln.

Der künstliche Berater wurde wegen Diebstahls beschuldigt

Gleichzeitig ist Vorsicht geboten. In seinen ersten Tagen im Amt wurde die KI bereits wegen Diebstahls von geistigem Eigentum beschuldigt, berichtet die rumänische „Foter.ro“.

Das Büro des Bürgermeisters der Stadt Ciugud wandte sich in einem offenen Brief auf Facebook an den Roboter. Den Bürokraten zufolge sollte ION in einem von ihm produzierten Einführungsvideo ein nicht autorisiertes Bild aus einem lokalen Schulvideo verwendet haben.

Die rumänischen Entwickler haben sich entschuldigt. Sie sagten, es habe sich um ein Missverständnis gehandelt, da das Bild aus einem Bericht des rumänischen öffentlichen Fernsehens (TVR) entnommen worden sei, zu dem der Sender seine Zustimmung gegeben habe. Die Software konnte offensichtlich nicht zwischen beiden Quellen unterscheiden. Es ist daher eher fraglich, wie sehr sich die Regierung wirklich auf ihren neuen Berater verlassen kann.

Es gibt keinen Ersatz für den Menschen

Ein Universitätsprofessor aus Târgu Mureș hat in einer Rezension, die anonym auf der Website „KronikaOnline“ veröffentlicht wurde, die Gedanken vieler zum Ausdruck gebracht: „Weder eine Schachmaschine, noch der Roboter, noch das Programm, das die künstliche Intelligenz verkörpert, ist in der Lage, das zu erreichen, was den Menschen am menschlichsten macht: das höchste zusammenfassende, analytische, strategische Denken des Gehirns, das bis heute schwer zu verstehen ist.“

Der Gelehrte weist auf Unzulänglichkeiten hin und diskutiert die Gefahren der künstlichen Intelligenz. Seine wichtigste Beobachtung ist, dass die Software ihre Informationen nicht aus der Realität bezieht. Sie erlebt Situationen nicht wirklich, sie hat keine greifbaren materiellen Erfahrungen. ION stützt sich lediglich auf eine Mischung aus Informationen, die bereits aufgezeichnet wurden. So sei der Rechner nicht in der Lage, sich eine Meinung zu bilden, was eine eigenständige Persönlichkeit darstellen würde.

Der Professor selbst hat zuvor ein Experiment mit künstlicher Intelligenz durchgeführt. Dabei untersuchte er seine eigene Lebensgeschichte. Aus den KI-Informationen erfuhr er, dass er nicht mehr lebte. Laut der Maschine ist er im Alter von 84 Jahren gestorben. Der Professor fasste anschließend kurz und bündig zusammen: „Ich schwöre lieber, dass ich, künstliche Intelligenz hin oder her, mein Gehirn nicht durch ein künstliches Gehirn ersetzen werde“.

Nicht zuletzt verweist der Artikel neben den bereits angesprochenen Kritikpunkten auch auf einen politischen Kontext. Er warnt alle, sich vor politischer Manipulation zu hüten.

„Ich kann die manipulative kommunistische Diktatur in der ersten Hälfte meines Lebens nicht vergessen. Damals gab Amerika der Führung des Landes ein schlechtes Zeugnis; jetzt bekommt sie gute Noten dafür, dass sie bedingungslos die Interessen des Heimatlandes, der Freiheit und des Liberalismus vertritt“, erklärte der Professor. Dies verdeutliche auch ideologische Strömungen, die vermutlich hinter der Verbreitung von künstlicher Intelligenz stehen.