»Stell dir vor, Du kriegst eine Freundschaftsanfrage von deiner toten Mutter«: Meta entsetzt die Community mit fragwürdigem Patent

Meta hat sich ein Patent gesichert, mit dem mithilfe von KI Verstorbene »simuliert« werden können. (Bildquelle: Begum, single1abubakor, beide: Adobe Stock)

Chats aus dem Jenseits: Meta hatte sich lange um das Patent bemüht, im vergangenen Dezember wurde es dann erteilt. Hinter dem unscheinbaren Namen Simulation eines Nutzers eines sozialen Netzwerksystems unter Verwendung eines Sprachmodells verbirgt sich die Idee, mithilfe von KI Verstorbene zumindest digital wieder zum Leben zu erwecken.

Meta betont nun, dass es nicht darum ginge, dass das Patent in dieser Form jemals zum Einsatz käme. Die Community in den sozialen Medien zeigt sich dennoch verstört, welchen Praktiken so Tür und Tor geöffnet werden könnten – und zeichnet ein düsteres Bild.

50:25 Stimme von KI-Firma geklaut! Leben wir schon in einer Dystopie?

Autoplay

Eine KI kann den Nutzer simulieren, wenn der bereits verstorben ist

Auf Google Patents findet sich die Meldung eines Patents, um das sich Meta seit 2023 bemüht und nun dem Konzern um Gründer Mark Zuckerberg gewährt wurde. Der Wortlaut wirkt trocken wie makaber zugleich:

Ein soziales Netzwerksystem simuliert einen Nutzer unter Verwendung eines Sprachmodells, das mit Trainingsdaten trainiert wurde, die aus von diesem Nutzer durchgeführten Nutzerinteraktionen generiert wurden. Das Sprachmodell kann dazu verwendet werden, den Nutzer zu simulieren, wenn dieser im sozialen Netzwerksystem abwesend ist, zum Beispiel, wenn der Nutzer eine lange Pause einlegt oder wenn der Nutzer verstorben ist.

In der Praxis bedeutet das:

Training mit Nutzerdaten: Eine Sprach-KI wird mit den Interaktionen eines Nutzers gefüttert – etwa mit den vorhandenen öffentlichen Posts des Nutzers.
Postings aus dem Jenseits: Ist der Nutzer länger nicht anwesend – etwa ganz explizit: tot – dann kann der KI-Chatbot in dessen Namen weiterhin in dem Netzwerk posten.

Laut TechSpot bestätigte ein Meta-Sprecher das Patent, betonte jedoch, dass das Unternehmen nicht plane, die Technologie zu nutzen, um Nachrichten zu posten oder Inhalte im Namen verstorbener Social-Media-Nutzer zu erstellen.

Weiterhin erklärte der Sprecher, dass die Anmeldung von Patenten es dem Unternehmen erlaube, sich die Eigentumsrechte an neuen Konzepten zu sichern, dies jedoch nicht bedeute, dass die Technologien auch kommerziell umgesetzt würden.

Mehr zu KI

Manche Menschen teilen ihre Rechtsangelegenheiten mit einer KI. Zum Problem wird es, wenn ein Richter die Chats als Beweismittel zulässt.

von Ursula Demling

Oma, seit acht Jahren tot, wird den neuesten Red-Bull-Extrem-Stunt weiterleiten – Community teilt ihre schlimmsten Befürchtungen

Trotz der Erklärungen des Konzerns herrscht in den sozialen Medien Entsetzen über das durch Meta gesicherte Patent. (via Reddit und Reddit)

Nutzer Beautiful Formal 329 bringt es in einem vielbeachteten Kommentar auf den Punkt:

Stell dir vor, du bekommst eine Freundschaftsanfrage vom Profil deiner verstorbenen Mutter, weil eine KI dieses übernommen hat und dir gegenüber nun so tut, als wäre sie sie.

Das ist, wie weitere Nutzer erklären, für einige jetzt schon gruselige Realität – allerdings durch Betrüger.

Nutzer LADYBIRD-HILL etwa erklärt:

Ich bekomme seit 2019 wahrscheinlich einmal im Monat Nachrichten vom Facebook-Account meiner verstorbenen Großmutter.

Dahinter stecken in aktuellen Fällen wie DevilFish777 erklärt jedoch Scammer, die Facebook-Profile Eins-zu-Eins kopieren oder hacken, um damit Angehörige zu betrügen. Auch wenn solche Nachrichten nicht per se Meta selbst anzulasten sind, verdeutlichen sie bereits jetzt den Schmerz, den solche Praktiken bei Hinterbliebenen auslösen können. Nutzer DigitalDawn schreibt:

Jemand hat den Account meines verstorbenen Onkels gehackt und es ist absolut nicht schön zu sehen, wie er quasi wieder zum Leben erwacht. Es ist einfach furchtbar.

Doch es ist längst nicht nur die Vorstellung einer allgemeinen Kontaktaufnahme durch verstorbene Angehörige, die den Nutzern einen Schauer über den Rücken laufen lässt. Einige stellen auch Vermutungen an, wofür Meta selbst die Accounts der Verstorbenen reaktivieren könnte.

Nutzer Sgt_Fox spekuliert:

Nein, hier geht es darum, künstlichen Traffic zu erzeugen, um Werbetreibende zu täuschen. Ihre verstorbenen Angehörigen werden keine Werbesprüche klopfen; sie werden stattdessen unerklärlicherweise wahllos Werbeanzeigen in Ihrem Feed kommentieren und teilen.

Oma, die vor acht Jahren verstorben ist, wird den neuesten Red-Bull-Extrem-Stunt weiterleiten und dazu sagen, wie sehr sie RB liebt und dass sie schon immer mal von einer Achterbahn aus in ein Haifischbecken Klippenspringen wollte [...].

Auch wenn Meta momentan grundsätzlich betont, das Patent nicht in dieser Weise nutzen zu wollen, muss betont werden, dass ein erster Schritt in die Richtung der Verarbeitung von Nutzer-Content zum Training von KI-Modellen bereits getan ist: Mittlerweile trainiert der Konzern um Mark Zuckerberg seine KI Meta AI mit öffentlichen Posts von Nutzern.

In unserem Artikel erfahrt ihr, wie ihr der Verwendung eurer zukünftigen öffentlichen Posts für das KI-Training widersprechen könnt.

Unlängst hat sich auch die Wissenschaft mit der Frage nach der ethischen Vertretbarkeit und den psychologischen Folgen von Dead- und Griefbots beschäftigt.

Bereits 2024 führte die Universität Cambridge eine Studie zur Ethik der digitalen Nachlass-Industrie durch. Darin warnen die Autoren vor ungewollten digitalen Heimsuchungen durch KI-Chatbots, die Verstorbene simulieren und betonen:

Dieser Bereich der KI ist ein ethisches Minenfeld. Es ist wichtig, der Würde der Verstorbenen Vorrang einzuräumen und sicherzustellen, dass diese nicht – beispielsweise durch finanzielle Motive von Diensten für das digitale Jenseits – verletzt wird.

Insofern ist für den Moment Entwarnung angesagt. Dennoch zeigt die Patentsicherung durch Meta, dass im KI-Zeitalter durchaus digitale Verwertungslogiken im Raum stehen, die sogar vor dem Tod keinen Halt machen.