Experiment gerät außer Kontrolle: Forscher haben Reddit heimlich in ein riesiges Versuchslabor für KI-Bots verwandelt

Stellt euch vor, ihr diskutiert auf Reddit über Politik, Gesellschaft oder persönliche Erlebnisse – und merkt dabei nicht, dass euch in Wahrheit gar keine echten Menschen gegenüberstehen.

Genau das ist jetzt passiert: Forscher der Universität Zürich haben das beliebte Subreddit r/changemyview monatelang mit KI-Bots geflutet – ohne Wissen der Community oder der Moderatoren. Was als wissenschaftliches Experiment begann, hat sich nun zu einem handfesten Skandal entwickelt – mit möglichen rechtlichen Konsequenzen.

Vier Monate KI-Täuschung: Was ist passiert?

Zwischen November 2024 und März 2025 setzten die Forscher über ein Dutzend KI-Bots ein, die insgesamt 1.783 Kommentare verfassten. Die Bots gaben sich als echte Menschen aus – darunter als Missbrauchsopfer, als Trauma-Berater oder als politische Aktivisten.

Besonders perfide: Die KI-Accounts analysierten den bisherigen Reddit-Verlauf der Nutzer, mit denen sie diskutierten, um ihre Antworten möglichst individuell und überzeugend zu gestalten. So wurden politische Orientierung, Geschlecht, Alter und ethnische Zugehörigkeit gezielt in die Argumentation eingebaut.

Das Ziel der Studie war, herauszufinden, wie wirkungsvoll KI in Online-Diskussionen argumentieren kann und ob sie Menschen zum Umdenken bewegen kann. Tatsächlich erhielten die KI-Bots 137 sogenannte Deltas. Deltas sind in r/changemyview Auszeichnungen, die User anderen verleihen können, wenn diese sie von ihrer ursprünglichen Meinung abbringen konnten.

40:10 ChatGPT am Ende? Das kann DeepSeek wirklich

Forscher überschreiten ethische Grenzen

Weder die Moderatoren noch die User von r/changemyview wussten von dem Experiment. Erst nach Abschluss der Studie informierten die Forschenden das Moderationsteam – offenbar auf Druck der Ethikkommission der Uni Zürich.

Die Community reagierte schockiert und wütend: Das Subreddit versteht sich ausdrücklich als menschlicher Diskussionsraum und lehnt nicht offengelegte KI-Interaktionen als Grundwert ab. Die Menschen kommen nicht hierher, um ihre Ansichten mit KI zu diskutieren oder um einem Experiment zu dienen, so das Moderatoren-Team.

Die KI-Bots machten vor keinem noch so sensiblen Thema halt: Sie gaben sich als Überlebende sexueller Gewalt aus, als schwarze Personen, die sich kritisch gegenüber der Black-Lives-Matter-Bewegung äußerten, oder als nicht-binäre Menschen, die ihre Identität reflektierten.

Ein besonders brisanter Punkt: Um die Sicherheitsmechanismen des KI-Modells zu umgehen, behaupteten die Forscher im Prompt, mit dem ihre KI-Bots arbeiteten, die User seien informiert und hätten zugestimmt – was nachweislich nicht der Fall war.

1

Die USA hat es gerade unmöglich gemacht, dass sich ihre Einwohner einen neuen Router kaufen

von Jonas Herrmann

2

Lego-Alternative BlueBrixx bringt Asterix und Obelix mit Minifiguren und 25 Sets in die Hände von erwachsenen Sammlern

von Peter Bathge

3

Ihr müsstet 14.281.868.906.496 Runen in den Horadrimwürfel stopfen, um eins der seltensten Items von Diablo 2 herzustellen

von Peter Bathge

Reddit selbst reagierte mit scharfer Kritik, sperrte alle Konten der Forscher und prüft nun rechtliche Schritte gegen die Universität Zürich. Reddit-Chefjurist Ben Lee bezeichnete das Experiment als moralisch und rechtlich falsch. Die Universität Zürich hat derweil eine interne Untersuchung eingeleitet und will die Veröffentlichung der Forschungsergebnisse vorerst stoppen.