Mit nur einem Satz Deepfakes erkennen: YouTuber zeigt, wie ihr euch vor KI-Betrug im Internet schützt

Die Verschwommenheit lässt sich vielleicht noch auf eine schlechte Webcam zurückführen, aber mit einer Aufforderung wird klar: Das hier ist ein Live-Deepfake. (© Jim Browning via YouTube)

Ihr macht einen Videoanruf mit jemandem, der euch nach Geld, Zugangsdaten oder persönlichen Informationen fragt – und ihr seid nicht sicher, ob das wirklich die Person ist, die sie zu sein behauptet. Studien wie von Bitkom zeigen, dass Menschen Deepfake-Videos nur in 24 bis 67 Prozent der Fälle richtig identifizieren – kaum besser als Raten.

Der auf das Enttarnen von Scammern spezialisierte Jim Browning zeigt in einem YouTube-Short, wie ihr das Problem mit einem einzigen Satz löst.

Die Aufforderung lautet sinngemäß: »Kannst du drei Finger vor dein Gesicht heben?«

17:27 Gefährliche KI-Trends: Was tun, wenn eure Stimme im Netz geklaut wird?

Warum der Satz funktioniert

Was wie eine Referenz zu Quentin Tarantinos Inglorious Bastards klingt, hat eine logisch schlüssige Idee dahinter. Denn Werkzeuge für solche Deepfakes ersetzen ein Gesicht in solchen Videostreams in Echtzeit, Frame für Frame.

Das erfordert enorme Rechenleistung, denn die KI muss kontinuierlich das Ausgangsbild analysieren, das Zielgesicht synthetisieren und das Ergebnis über den Stream legen.

• Sobald ein Objekt wie eine Hand die Grenze zwischen Gesicht und Hintergrund überquert, muss die KI entscheiden: Was gehört zum Gesicht, und was nicht?
• Dieses sogenannte »Boundary Rendering« in Echtzeit ist für aktuelle Deepfake-Tools eine bekannte Schwäche.

Als Ergebnis folgt unter anderem eines der folgenden Muster: Die Hand flimmert, das Gesicht bleibt merkwürdig stabil, Kanten zwischen Hautbereichen werden unscharf, oder die Darstellung friert einfach komplett ein.

Link zum YouTube-Inhalt

»Deepfake-Erkenner«, wie es sie im Netz zuhauf gibt, haben noch einige Probleme mit videobasierten Deepfakes, weshalb solche Tricks wie der obige Satz – neben der ohnehin immer empfohlenen gesunden Portion Wachsamkeit – wohl noch für eine ganze Weile ihren Nutzen haben.

»Kaum eine Schule, die es nicht betrifft« – Deepfakes von Schülerinnen sind ein weltweites Problem und noch schlimmer als gedacht

Mittel- bis langfristig setzt die Industrie auf den C2PA-Standard (Content Credentials). Dabei handelt es sich um kryptografische Signaturen, die beim Erstellen eines Fotos oder Videos eingebettet werden und nachweisen, ob der Inhalt seit der Aufnahme verändert wurde. Bei Live-Deepfakes wird das allerdings nur schwer möglich sein.