Täuschend echte Deepfakes, perfekt manipulierte Stimmen und KI-Texte, die wie von Menschenhand geschrieben wirken: Im Internet wird es immer schwerer zu unterscheiden, was real ist und was von einer KI stammt.
Genau hier setzt ein neues Werkzeug von Google an, das dabei helfen soll, reale Inhalte von KI-generierten zu unterscheiden. Mit SynthID stellt Google eine Technologie vor, die digitale Wasserzeichen verwendet, um KI-Inhalte eindeutig identifizierbar zu machen.
Damit soll auch ein Beitrag geleistet werden, das Vertrauen in digitale Medien wiederherzustellen und die Verbreitung von falschen Informationen zu bekämpfen.
Das unsichtbare Wasserzeichen
Die Technologie von SynthID basiert nicht auf offensichtlichen Logos am Bildrand oder leicht veränderbaren Metadaten, die von Betrügern oft einfach gelöscht werden.
Stattdessen fügt SynthID das Wasserzeichen direkt in den Erstellungsprozess der KI ein. Eingefügt werden die Wasserzeichen so, dass das menschliche Auge oder Ohr sie nicht wahrnehmen kann. Bei Audio-Clips etwa in einem Bereich, der vom menschlichen Ohr nicht wahrgenommen wird.
Mit Spezialtools lässt sich die Herkunft dagegen einwandfrei ermitteln.
Ein großer Vorteil: Selbst wenn ein Bild nachträglich zugeschnitten, mit Filtern belegt oder stark komprimiert wird, bleibt das digitale Wasserzeichen von SynthID intakt und die KI-Herkunft somit nachweisbar.
Funktioniert auch bei Texten
Laut Google soll SynthID nicht nur bei Bildern oder Audiodateien funktionieren, sondern auch bei Text, der von der KI generiert wird. Der Vorgang ist hierbei allerdings deutlich komplexer.
Sprachmodelle wie Gemini nutzen Wahrscheinlichkeiten, um Worte aneinanderzureihen. Mit SynthID werden diese verändert, um einen Fingerabdruck zu erstellen. Laut Google bleiben Sinn, Qualität und Lesefluss davon unberührt. Später besteht dann die Möglichkeit zu überprüfen, ob ein Text von einer KI stammt oder nicht.
Ähnliche Verfahren sollen auch bei generierten Videos und Musikstücken zum Einsatz kommen.
Google stellt das neue Werkzeug in einem Video auf YouTube vor:
Link zum YouTube-Inhalt
Von Gemini bis Open-Source: SynthID im Praxiseinsatz
In der Praxis wird SynthID von Google breits bei eigenen Produkten eingesetzt. Dies trifft bereits auf mit Gemini generierte Bilder, Texte und Videos zu.
Jeder Gemini-Nutzer kann mittlerweile mit einer einfachen Frage überprüfen, ob ein Wasserzeichen existiert. Dazu reicht es im Gemini-Prompt Fragen wie Ist das Bild KI generiert?
zu stellen, nachdem ein Bild hochgeladen worden ist. Dies funktioniert allerdings nur für Bilder, Video-Clips und Audiodateien, die von Gemini oder mit anderen Google-Tools erstellt worden sind.
Mehr zum Thema: Google I/O in fünf Minuten: Alle wichtigen Ankündigungen der Keynote im Überblick
Google hat SynthID nun als Open-Source-Lösung bereitgestellt. Damit ist die Technologie für alle Entwickler nutzbar. Inwieweit sich SynthID durchsetzen wird, bleibt aber abzuwarten.
Mit der neuen Technologie präsentiert Google ein Werkzeug, das für mehr Transparenz sorgen soll. Allerdings sei es noch kein unüberwindbares Wundermittel. Das digitale Katz-und-Maus-Spiel zwischen KI-Fälschern und Aufklärern wird zweifellos weitergehen.
Nur angemeldete Benutzer können kommentieren und bewerten.
Dein Kommentar wurde nicht gespeichert. Dies kann folgende Ursachen haben:
1. Der Kommentar ist länger als 4000 Zeichen.
2. Du hast versucht, einen Kommentar innerhalb der 10-Sekunden-Schreibsperre zu senden.
3. Dein Kommentar wurde als Spam identifiziert. Bitte beachte unsere Richtlinien zum Erstellen von Kommentaren.
4. Du verfügst nicht über die nötigen Schreibrechte bzw. wurdest gebannt.
Bei Fragen oder Problemen nutze bitte das Kontakt-Formular.
Nur angemeldete Benutzer können kommentieren und bewerten.
Nur angemeldete Plus-Mitglieder können Plus-Inhalte kommentieren und bewerten.