Gefährliche KI-Trends: Was tun, wenn eure Stimme im Netz geklaut wird?

Stellt euch vor, ihr öffnet Instagram und seht euch selbst in einer Werbeanzeige für ein Produkt, das ihr nie unterstützen würdet. Genau das passierte Vera. Ihre Stimme wurde per KI geklont und für einen Werbespot missbraucht. Im Video erzählt sie, wie es dazu kam, wie sie den Fake entdeckte, welche rechtlichen Möglichkeiten es gibt und warum Deepfakes ein immer größeres Problem für alle werden könnten.

Worum geht's im Video?

• KI-Deepfake im Werbeclip: Stimme ohne Zustimmung genutzt
• Erste Reaktionen und rechtliche Einschätzungen von einem Anwalt
• Was der Digital Services Act (DSA) Betroffenen bringt
• Ansatz aus Dänemark
• Tipps, wie man sich vor solchen Angriffen schützen kann

Im Video schildert Vera ihre persönliche Erfahrung. Ihr erfahrt, wie leicht Deepfakes technisch umsetzbar sind, warum die Rechtslage komplex ist und welche Schutzmaßnahmen jeder kennen sollte.

17:27 Gefährliche KI-Trends: Was tun, wenn eure Stimme im Netz geklaut wird?

Der Vorfall begann mit einem Hinweis eines Followers: Eine Werbeanzeige nutzte Veras Stimme, um für eine KI-App zu werben. Dazu nutzte man eine Tonspur, die teils aus einem echten Video entnommen, teils per KI generiert war. Vera erklärt, wie moderne Systeme mit nur wenigen Sekunden Audiomaterial ein täuschend echtes Stimmmodell erzeugen können.

Rechtsanwalt Prof. Dr. Christian Rauda bestätigt, dass Stimmen durch das Persönlichkeitsrecht geschützt sind. Betroffene haben Anspruch auf Unterlassung und gegebenenfalls Schadensersatz. Der Digital Services Act (DSA) verpflichtet Plattformen zudem, gemeldete Inhalte zu prüfen und zu entfernen. Dänemark geht einen Schritt weiter und plant ein explizites Copyright auf Stimme und Gesicht. Rauda sieht den Nutzen jedoch skeptisch.

Mehr zum Thema

Deepfake: Wie ein Werbespot mit Bruce Willis ohne Bruce Willis entstand

von Alexander Köpf

Wegen KI explodiert der Energiebedarf gerade – Google hat jetzt 3 Milliarden US-Dollar in Wasserkraft investiert und das ist erst der Anfang

von Jonas Herrmann

Wenn die eine KI die andere aussperrt: OpenAI wird von Anthropic verbannt, weil sie angeblich nicht nach den Regeln gespielt haben

von Jonas Herrmann

Am Ende konnte Vera die Anzeigen dank einer Abmahnung offline nehmen lassen. Sie warnt jedoch, dass Privatpersonen oft weniger Ressourcen haben. Ihr Appell: Mehr Medienkompetenz - gerade bei älteren Menschen, die Deepfakes oft nicht erkennen können. Ihr Tipp: Passwörter, um sich vor Betrugsanrufen zu schützen.

Habt ihr schon Erfahrungen mit KI-Fakes oder Deepfakes gemacht? Schreibt uns eure Erfahrungen doch hier in die Kommentare und tauscht euch mit der Community aus.