Künstliche Intelligenzen lernen immer mehr dazu - und können seit einer Weile auch Videos manipulieren, um Zuschauer glauben zu machen, dass dort eine andere Person zu sehen sei als es tatsächlich der Fall ist.
Dazu erzeugen sie gefälschte Gesichter, die sie anstelle der Originale in die Bewegtbilder einsetzen. Bislang funktionierte eine derartige Manipulation allerdings nur im Nachhinein, indem eine entsprechend trainierte Gesichtserkennungssoftware die ursprüngliche Aufnahme quasi übermalte.
Jetzt ist es einer deutschen Forschergruppe gelungen, Gesichter sogar in Echtzeit zu ersetzen, wie Heise berichtet.
KI erkennt Mimik und überträgt sie auf andere Gesichter
Link zum YouTube-Inhalt
Das Team der IT-Firma TNG Technology Consulting entwickelte dazu eine Software, die Live-Aufnahmen von Webcams direkt beeinflussen und Gesichter vertauschen kann. Die KI ist darauf trainiert, menschliche Mimik zu erkennen und dann auf andere Gesichter zu übertragen.
Im Videostream analysiert sie daher die Bewegungen des zu manipulierenden Gesichts und ersetzt es anschließend mit einem Deep-Fake-Modell, das die erkannte Mimik imitiert. Die Software kombiniert dafür Technologien der Computer Vision und neuronaler Netzwerke.
Im Fall der TNG-Deep-Fake-KI nutzte das Team die Deep-Learning-Bibliothek Keras, um die Software mit Autoencoder-Netzen zu trainieren. Ergänzend setzten die Forscher auf eine Kombination diverser neuronaler Netze.
Wettrennen um Deep-Fakes hat begonnen
Derweil liefern sich KI-Entwickler weltweit ein Wettrennen, um Schutzmaßnahmen gegen Deep-Fakes zu erstellen beziehungsweise diese wieder zu überlisten.
Forscher der Berkeley Universität im US-Bundesstaat Kalifornien haben beispielsweise eine neue Technologie entwickelt, die den individuellen Bewegungs- und Sprachstil einer Person analysiert und dadurch Deep-Fakes entlarven soll - das gelingt aktuell mit einer Genauigkeit von 92 Prozent.
Einer der an dem Projekt beteiligten Forscher, Hao Li, sagte in der Technology Review, dass diese Technik besonders schwer auszuhebeln sei. Trotzdem glaubt er, dass irgendwann auch seine Software überlistet wird.
Nur angemeldete Benutzer können kommentieren und bewerten.
Dein Kommentar wurde nicht gespeichert. Dies kann folgende Ursachen haben:
1. Der Kommentar ist länger als 4000 Zeichen.
2. Du hast versucht, einen Kommentar innerhalb der 10-Sekunden-Schreibsperre zu senden.
3. Dein Kommentar wurde als Spam identifiziert. Bitte beachte unsere Richtlinien zum Erstellen von Kommentaren.
4. Du verfügst nicht über die nötigen Schreibrechte bzw. wurdest gebannt.
Bei Fragen oder Problemen nutze bitte das Kontakt-Formular.
Nur angemeldete Benutzer können kommentieren und bewerten.
Nur angemeldete Plus-Mitglieder können Plus-Inhalte kommentieren und bewerten.