(Un)soziale Netzwerke: Digitale Zwillinge manipulieren Menschen in Echtzeit

Der Dokumentarfilm „Das Dilemma mit den sozialen Medien“ (Jeff Orlowski, 2020) stellt soziale Netzwerke als die größte Bedrohung der Menschheit dar. In der Netflix-Produktion berichten ehemalige Führungskräfte großer Technologieunternehmen wie Facebook, Twitter und Instagram, wie ihre ehemaligen Arbeitgeber durch ausgeklügelte Algorithmen – und, wie kürzlich enthüllt, digitale Zwillinge – nicht nur die Aktionen ihre Nutzer vorhersagen, sondern auch wissen, welche Inhalte sie auf ihren Plattformen fesseln.

Das Wissen, dass Technologieunternehmen die digitalen Aktivitäten ihrer Nutzer ohne deren Zustimmung und Bewusstsein ausnutzen, ist bekannt. Facebook widersprach anlässlich des Films. Forscher der juristischen Fakultät der Universität Katar haben nun eben jenen weiteren Punkt enthüllt, wie Big Tech Nutzerdaten – zu Ungunsten ihrer Kunden – nutzt: Digitale Gedankenklone.

„Wir hatten ein Jahr, bevor die Netflix-Dokumentation ausgestrahlt wurde, an der Studie gearbeitet. Daher waren wir nicht überrascht […] Die Geschichte des Films bestätigt, was unsere Forschung gefunden hat“, sagt Professor Rafael Brown. Gemeinsam mit seinem Kollegen Professor Jon Truby veröffentlichte er die Ergebnisse der Studie in der Zeitschrift „Information & Communications Technology Law“.

Digitale Zwillinge überwachen und manipulieren Menschen in Echtzeit

„Digitale Gedankenklone“, oder in der Industrie „digitale Zwillinge“, sind eine Sammlung aller bekannten Daten über eine Maschine oder einen Menschen. Sie sammeln ständig und in Echtzeit persönliche Daten anhand derer Big Tech das Verhalten der Menschen hervorsagen und manipulieren können.

Aktivitäten aus Apps, Benutzerkonten der sozialen Medien, tragbarer Elektronik, GPS-Tracking, Online- und Offline-Verhalten und -Aktivitäten sowie öffentliche Aufzeichnungen werden alle dazu verwendet, um das zu formulieren, was sie einen „digitalen Gedankenklon“ nennen.

Die Professoren definieren den Klon entsprechend als „einen personalisierten digitalen Zwilling, der aus einer Nachbildung aller bekannten Daten und Verhaltensweisen einer bestimmten lebenden Person besteht und deren Entscheidungen, Vorlieben, Verhaltenstrends und Entscheidungsprozesse in Echtzeit aufzeichnet“.

„Gegenwärtig existierende oder zukünftige Algorithmen der künstlichen Intelligenz (KI) können dann diese personalisierten Daten verarbeiten, um Strategien in Echtzeit zu testen, mit denen die Verbraucher- oder Online-Entscheidungen einer Person unter Verwendung extrem präziser Verhaltensmuster vorhergesagt, beeinflusst und manipuliert werden können“, erklärt Prof. Truby. Außerdem könnten digitale Zwillinge eine Art allumfassende Simulation durchführen, um zu bestimmen, welche Faktoren notwendig sind, damit sich eine Person anders entscheidet.

Personalisierte „Kundenberatung“

Beispielsweise kann der Klon vorhersagen, ob eine Person sich die Mühe machen wird, Preise für einen Kauf zu vergleichen – und wenn nicht, höhere Preise für das Produkt verlangen. Außerdem können digitale Zwillinge „wissen“, wie „ihre“ Menschen sich gerade fühlen und welche Werbung zur jeweiligen Stimmung passt. Diese digitale Manipulation verringert die Fähigkeit einer Person, freie Entscheidungen zu treffen.

Außerhalb des Verbrauchermarketings könnten Finanzinstitute digitale Zwillinge verwenden, um finanzielle Entscheidungen zu treffen. Zum Beispiel, ob eine Person einen Kredit zurückzahlen würde, beurteilt nach der Zahl der kreditwürdigen Personen in ihrem Freundeskreis.

Oder was wäre, wenn Krankenkassen ihre (zukünftigen) Kunden danach beurteilen würden, wie wahrscheinlich künftige Krankheiten sind? Alles, was die Versicherer dazu bräuchten, speichert das Smartphone: Ernährung – anhand gesuchter Rezepte und Lieferdienste –, Mitgliedschaft im Fitnessstudio, täglich zurückgelegte Entfernung – basierend auf den Standortdaten und dem Schrittzähler –, sowie ihre sozialen Kontakte – aus Telefonbuch und Chatgruppen.

Wem gehören UNSERE Daten?

In der aktuellen Situation, so die Autoren, werden Informationen entweder als öffentliche oder private Angelegenheit behandelt oder in kontextuellen Beziehungen betrachtet, wen die Informationen betreffen und welche Auswirkungen sie haben. Das betrachten Truby und Brown als veraltet.

Stattdessen bedürfe es eines menschenzentrierten Rahmens, „in dem eine Person von Beginn ihrer Beziehung zu digitalen Diensten an entscheiden kann, ob [und welche] Daten für immer geschützt werden sollen oder bis sie aus freien Stücken darauf verzichtet.“

Dieses Konzept der Datensicherheit beruht auf zwei Prinzipien: Das Eigentumsprinzip besagt, dass die Daten der Person gehören und dass bestimmte Daten von Natur aus geschützt sind. Das Kontrollprinzip verlangt indes, dass der Einzelne die Möglichkeit haben muss, Änderungen an der Art der gesammelten Daten vorzunehmen und zu entscheiden, ob sie gespeichert werden sollen. In diesem Rahmen müsse man auch – vorher – fragen, ob Daten an eine nicht autorisierte Stelle weitergegeben werden dürfen.

Die Forscher weisen außerdem darauf hin, dass es einen dringenden Bedarf an strengen inner- und interstaatlichen Vorschriften zum Schutz der Bürger vor dem Missbrauch von digitalen Gedankenklonen gibt.

Digitale Zwillinge haben der Verarbeitung ihrer Daten nicht zugestimmt

Als Professoren der juristischen Fakultät der Universität Katar werfen die Autoren aber auch kritische moralische und rechtliche Fragen auf. So fragt Prof. Truby:

Bedeutet Privatsphäre für Menschen, dass ihre digitalen Klone ebenfalls geschützt sind?“

Um das zu beantworten, muss rechtlich zwischen dem digitalen Klon und der biologischen Quelle unterschieden werden. Datenschützer werden sich künftig mit der Frage beschäftigen, ob digitale Zwillinge ein Bewusstsein haben. Weitaus wichtiger sei jedoch die Frage, ob das Bewusstsein des digitalen Klons dasselbe ist wie das der biologischen Quelle. Wenn nicht, hat der digitale Zwilling gegenüber Facebook und Co der Verarbeitung der Daten NICHT zugestimmt …

Weiter fragte Prof. Truby:

Geben die Benutzer den Unternehmen eine informierte Zustimmung, wenn ihre Geschäftsbedingungen irre führen?“

Mit anderen Worten: Haben die Menschen die ABGs oder die Datenschutz- und Cookie-Richtlinien wirklich gelesen – und verstanden – oder klicken auf „habe ich gelesen“ beziehungsweise „alle akzeptieren“, weil sie keine Lust zum Lesen haben und/oder den Service andernfalls nicht nutzen können?

Die Welt steht an einem Scheideweg, so die Autoren. Sollte sie weiterhin nichts tun, lässt sie eine totale Manipulation durch die Technologieindustrie zu. Andernfalls müssen Menschen durch dringend benötigte Gesetze nicht nur die Kontrolle über ihre Daten zurücknehmen, sondern auch die Verantwortung für ihre digitalen Daten tragen. Das sei allerdings nicht wirklich ein soziales Dilemma.

(Mit Material der Juristischen Fakultät der Universität Katar)