Nvidia: Neuer Video-Detektor erkennt »Fake News« und KI-Videos in Millisekunden

Nvidias Synthetic Video Detector NIM analysiert Videomaterial Frame für Frame und markiert mutmaßlich KI-generierte Inhalte. (Bildquelle: Nvidia)

Wie unterscheidet ihr in einer Welt voller KI-Videos noch, was real ist und was nicht? Genau an dieser Frage will Nvidia mit dem neuen Tool »Synthetic Video Detector« ansetzen.

Vorgestellt hat Nvidia das Tool als Teil der hauseigenen Plattform "Nvidia AI for Media" auf der SIGGRAPH-Konferenz. Dabei handelt es sich um eine NIM-Microservice – NIM steht an dieser Stelle für "Nvidia Inference Microservices", also KI-Modellcontainer, die sich unkompliziert in bestehende Software einbinden lassen.

1:46 Klassische PCs waren gestern: Nvidia will das Rechner-Rad zusammen mit Microsoft neu erfinden dank RTX Spark

Autoplay

Nvidia Synthetic Video Detector: Wie die Erkennung funktioniert

Der Synthetic Video Detector analysiert Videomaterial Bild für Bild und errechnet daraus einen Klassifizierungswert – eine Wahrscheinlichkeitsangabe, wie hoch der Anteil synthetischer Inhalte im Material ausfällt. Was Redaktionen daraus machen, bleibt ihnen überlassen: Der Wert dient nur als Grundlage, welcher Clip zuerst geprüft, zurückgehalten oder an ein Spezialteam weitergereicht wird.

Als Ersatz für etablierte Verifizierungsarbeit taugt der Detector laut Nvidia allerdings nicht, sondern dient eher als zusätzlicher Prüfschritt, wenn eine schnelle Einschätzung benötigt wird, ob ein Clip näher angeschaut werden sollte.

Praxistauglich soll das Modell laut dem Entwickler auch dann bleiben, wenn ein Clip vorher komprimiert, zugeschnitten, in der Auflösung verändert oder neu kodiert wurde – also genau jene Schritte, die etwa auf Social-Media-Plattformen zum Alltag gehören.
Nvidia beziffert die Trefferquote mit bis zu 92 Prozent bei unkomprimiertem Material, mit 87 Prozent bei 15 Prozent Kompression und noch 82 Prozent bei einer Kompression von 50 Prozent.

Auf dem internen Testdatensatz (via wccftech) soll die aktuelle Modellversion eine AUC von 0,9614 sowie eine Genauigkeit von 0,9453 erreichen und auf dem Vergleichstest AIGVD Bench mit einem AUC-Mittelwert von 98,7 Prozent führen.

Mit nur einem Satz Deepfakes erkennen: YouTuber zeigt, wie ihr euch vor KI-Betrug im Internet schützt

Tempo als zentrales Verkaufsargument

Beim Tempo nennt Nvidia Werte im niedrigen zweistelligen Millisekundenbereich: Auf RTX-Hardware soll ein 1080p-Clip in etwa 22 Millisekunden durchlaufen, auf den Server-GPUs der L40-Reihe dauert die gleiche Analyse laut Hersteller rund 30 Millisekunden.

Für die breitere Verbreitung setzt Nvidia auf eine Kooperation mit dem Streaminganbieter Wowza: Der Detector soll über dessen Video Intelligence Framework in Livestreaming-Workflows einziehen und so mehr als 35.000 Deployments in über 170 Ländern erreichen. Nvidia bietet den Detector zudem für den lokalen Einsatz an.