»Kaum eine Schule, die es nicht betrifft« – Deepfakes von Schülerinnen sind ein weltweites Problem und noch schlimmer als gedacht

Deepfakes sind in fast jeder Schule im Umlauf. Ein Bericht zeigt auf, wie groß das Problem weltweit ist. Bei den Taten sind klare Muster zu erkennen.(Bild: stock.adobe.com – MagicDavid25/peopleimages.com)

KI-generierte Deepfakes, oft durch sogenannte »Nudify«-Apps, gehören zu den Schattenseiten des großen KI-Booms der letzten Jahre. Ein neuer Bericht zeigt jetzt, wie schlimm das Problem an Schulen weltweit ist.

Deepfakes an nahezu allen Schulen im Umlauf

Bei Deepfakes handelt es sich um Bilder, Videos oder andere Medien, die mithilfe von KI abgeändert oder verfälscht werden. Häufig werden die technischen Möglichkeiten genutzt, um Menschen, vor allem Frauen, auf Fotos nackt darzustellen oder ihre Gesichter auf pornografisches Material zu übertragen.

1:53:19 Der KI-Hype frisst sich selbst – Tech-Jahresrückblick 2025

Autoplay

Diese Möglichkeiten gibt es schon seit knapp zehn Jahren. Durch die Weiterentwicklung und Verbreitung von KI sind solche Deepfakes zuletzt aber deutlich bekannter geworden und vor allem viel einfacher zu erstellen. Online gibt es zahlreiche Anbieter, die darin ein Geschäft erkannt haben. Technisches Wissen wird also nicht benötigt.

Ein neuer Bericht von Wired, der in Zusammenarbeit mit Indicator entstanden ist, zeigt jetzt, wie groß dieses Deepfake-Problem vor allem an Schulen ist. So gibt es Berichte über Deepfake-Vorfälle, die teilweise auch zu Strafverfolgungen führten, im Grunde aus der ganzen Welt. Knapp 90 Schulen sind und mehr als 600 Schülerinnen sind betroffen.

Die Dunkelziffer dürfte allerdings noch um ein Vielfaches größer sein. Laut dem Bericht gab etwa eines von fünf Kindern aus Spanien an, dass schon mal Deepfakes von ihm erstellt wurden. In einer Umfrage von 2024 gaben 15 Prozent der Befragten an, von Deepfakes an ihrer Schule zu wissen.

Lloyd Richardson, der Director of Technology vom Canadian Centre for Child Protection, kommt daher zu folgendem Schluss:

»Ich glaube, es dürfte schwer sein, eine Schule zu finden, die davon nicht betroffen ist«

Bei den Vorfällen zeigt sich zudem ein deutliches Muster. Während die Deepfakes in den allermeisten Fällen von männlichen Teenagern erstellt werden, sind weibliche Personen in der Regel die Opfer. Die Folgen sind nicht selten psychische Probleme sowie die Angst, überhaupt noch in die Schule zu gehen oder den Tätern zu begegnen.

Letzteren sei oft gar nicht bewusst, dass es sich bei den Bildern und Videos mitunter um Material von sexuellem Missbrauch an Kindern handelt, dessen Besitz und Verbreitung ein Straftatbestand ist.

Das Ausleben sexueller Fantasien ist ein naheliegender Grund für das Erstellen von Deepfakes. Laut dem Bericht spielen aber auch andere Aspekte wie Erniedrigung, Rache oder soziale Kontrolle wichtige Rollen. Durch Social Media sei der Zugriff auf »passende« Bilder sehr einfach.

Erst vor wenigen Wochen gab es einen weiteren Bericht, in dem es darum ging, wie Meta mit den Bildern und Videos der Nutzer umgeht, die mit Smart Glasses aufgenommen wurden.

Viele Teenagerinnen würden deshalb mittlerweile darauf verzichten, Bilder von sich ins Netz zu stellen. An einigen Schulen wird zudem die Wahl gelassen, ob man auf Klassenfotos oder in Jahrbüchern auftauchen möchte. Dennoch wirken die Schulen und die Lehrer oft überfordert von der Situation.