DEEPFAKE - the future is now¡

Keine Ahnung, aber hat Potential.

https://vid.pr0gramm.com/2019/03/18/150ddef67038a41d.mp4

https://vid.pr0gramm.com/2018/12/19/47f42cd5752e6012.mp4

 

https://medium.com/@dessa_/real-talk-speech-synthesis-5dd0897eef7f

Meine Hoffnung ist, dass jemand sowas benutzt um ein paar Game of Thrones Dialoge zu verbessern.

 

Sehr interessant und hört sich deutlich natürlicher an als beispielsweise Google Maps
Wenn man aber ganz genau hin hört merkt man schon, dass da kleine Pausen drin sind, insgesamt aber sehr beeindruckend.

 

Die ganze Sache wird erst interessant, wenn ich ich mich selbst auf alle Beteiligten in Schnackselvideos kopieren kann.

 

Wait, du willst dir selber beim bimsen zuschauen?

 

Geht doch mit Deep Fake

 

Wieso beängstigend? Das ist halt CGI, damit kann man nicht nur Filmkulissen erschaffen und tote Schauspieler auf der Leinwand beleben.

Die Gefahr, dass der Bundesregierung eine Fake-Kriegserklärung von Trump als echt untergejubelt wird, sehe ich dann doch nicht. Schließlich würde diese Kriegserklärung dann auch bei Twitter stehen.

Im Ernst: Weil diese CGI-Möglichkeiten bekannt sind, sollte jedem Entscheider klar sein, dass ein Video kein unumstößlich echter Beweis ist. Doppelgänger und Stimmenimitatoren gibt es schon länger; ich könnte mit einer guten Maske einen Schauspieler so darstellen, dass er nicht zweifelsfrei vom echten Trump zu unterscheiden ist. Das hier ist die digitale Variante dazu.

 

@dabba
Das ist schon ein bisschen mehr als nur CGI. Es ist vor allem vergleichsweise simpel zu benutzen. Neben den unzähligen kreativen und normalen Möglichkeiten ist das Missbrauchsrisiko jedenfalls groß und nicht mit CGI oder Doppelgänger im Kostüm zu vergleichen.

 

Eben das könnte gefährlich werden. Nachher macht jemand ein Video über ihn wo er mit Dildos hantiert oder andere peinliche Sachen.

 

Das ist eine Art von CGI.

Welches konkrete Missbrauchs-Risiko siehst Du, wenn die Möglichkeit bekannt ist und somit erwartet werden kann?

 

In erster Linie ist es eine einfach zu benutzende A.I für jedermann und nicht nur für irgendwelche Profis.

Weil die Risiken bekannt sind, sind es keine Risiken mehr? Wat?!

 

Mal Spaß beiseite, diese Technologie ist hochgefährlich und sollte streng reguliert werden. Derartige Fakes müssen in jedem Video, z.B. durch eine Wassermarke, klar erkennbar sein, und das Zuwiderhandeln sollte schwer bestraft werden.

 

Was gibt es da zu lachen? Was meinst du, was für einen Einfluss gefakte Videos z.B. auf Wahlen haben können?

 

Was ich ein bisschen beruhigend finde, sind die aktuell benötigten 40 Minuten Quellmaterial für die Analyse. Das sollte zumindest etwas davor schützen, dass man einfach mal eben von jemandem kurz gefilmt wird und dann so ein Video von sich im Netz findet.

 

Naja - selbst wenn man sich wirklich zusammennimmt, sind die benötigten Minuten nach ca. 80 selbstgefilmten Amateurpornos "voll".

 

Wenn die Leute wissen, dass es so etwas gibt, werden sie Möglichkeit der Nutzung einkalkulieren.

Wenn man vor 100 Jahren analoge Fotos gezeigt hat, dann wurde diesen Fotos normalerweise vertraut.
Wenn man heute digitale Fotos zeigt, haben viele Leute im Hinterkopf, dass es Photoshop & Co. gibt und man am Computer problemlos Bilder manipulieren kann. D. h. Bilder werden angezweifelt, wenn auf ihnen etwas Unglaubwürdiges zu sehen ist.

Hat Photoshop für Katastrophen gesorgt? Nein.

Angenommen, die SPD würde Deep-Fake-Videos produzieren, auf denen Angela Merkel Blödsinn erzählt. Innerhalb weniger Stunden hätte die CDU diese "Beweise" widerlegt und die SPD wäre blamiert bis auf die Knochen.

 

Ich meinte eher Alltagssituationen, in denen man spontan gefilmt wird. Wer haufenweise Material von sich selbst ins Netz stellt, geht ja ohnehin ein gewisses Risiko ein.

 

Die SPD würde sowas ganz sicher nicht tun. Eigentlich ist klar, aus welchem politischen Lager solche Aktionen kommen. AfD bzw. Neue Rechte. Natürlich wird das auch keiner offiziell bei der AfD in Auftrag geben, man ist ja nicht blöd. Das werden irgendwelche zwielichtigen Typen im Internet machen, und die AfD wird das (wider besseren Wissens) überall in den sozialen Medien teilen.

Klarstellungen interessieren auch keinen. Es gab in den USA doch in der jüngeren Zeit Fälle von bearbeiteten Videos, wo es auch nicht geholfen hat, dass es im Nachhinein aufgeklärt wurde. Siehe z.B. das Video von dem Journalisten, der angeblich nach der Mitarbeiterin des Weißen Hauses schlägt. Siehe das Video von der angeblich betrunkenen Hillary Clinton (oder war es Nancy Pelosi?). Der einfache Bürger glaubt, was er glauben will. Das gilt auch in Deutschland. Es im Nachhinein aufzuklären bringt wenig, der Schaden ist dann bereits verursacht. Dazu kommen dann noch Fälle, in denen möglicherweise zuwenig Zeit ist, um es überhaupt aufzuklären, z.B. am Vortag einer Wahl.

 

Der Vergleich hinkt.

Zudem hat Photoshop unsere Gesellschaft enorm geprägt. Jeder weiß, dass alle mit Photoshop nachhelfen, um die perfekte Illusion zu suggerieren und trotzdem verändert es Ansichten, Normen und Gedanken der Menschen. Es ist nicht immer Entscheidend ob sich am Ende herausstellt, dass etwas gefaked wurde - der Schaden ist dann schon angerichtet. Zudem wissen wir oft auch gar nicht mehr was echt und was unecht ist.

Wenn du hier tatsächlich kein viel größeres Risiko erkennst, dann verschließt du deine Augen vor der Realität.

 

Nö, wieso? Die Version wo sie keinen Blödsinn erzählt, könnte ja auch der Fake sein.

Ich erinnere an diesen Meisterstreich:
https://www.youtube.com/watch?v=Vx-1LQu6mAE

 

Deep Fake existiert inzwischen fast seit 2 Jahren, es wurde bereits an Politikern angewendet, es ist immer noch kein Krieg ausgebrochen. Privat kann man bereits gerichtlich dagegen vorgehen, wenn jemand dein Gesicht benutzt.

 

Ist eben eine utopische Erforderung. Deswegen der "". Bei Photoshop kriegte man das auch nicht hin, obwohl ich nicht weiß ob da jemand so eine Forderung stellte.

Noch hat man ja den "Vorteil", dass man entsprechende Rechenleistung (in Form von GPUs) braucht, oder eben Zeit.

 

Ja, das sind die sogenannten Stammwähler. Die werden sich nicht umstimmen lassen, falls ein Video erscheint, welches einen Kandidaten ihrer favorisierten Partei schlecht aussehen lässt. Ich weise daraufhin, wie viele Stimmen die FPÖ bei der Europawahl trotz des Ibiza-Videos bekommen hat, obwohl dort sogar der echte Strache saß und dieser es auch nicht bestritt (sondern nur halbseidende Entschuldigungen lieferte).

Die Wahrheit ist normalerweise einfacher zu beweisen als die Unwahrheit.

 

Er will sich selbst sehen wie er sich selbst bimst.

 

Es geht doch nicht um Kriegserklärungen, sondern darum, dass die Masse an Fake-News zunehmen wird. Und es wird immer schwerer zu unterscheiden was falsch und was echt ist. Diese neuen KI-Methoden machen es sehr schwer, ja fast unmöglich, mit den herkömmlichen Methoden zu erkennen ob ein Video echt ist oder nicht.

 

Haha, als ob. Ein potenter Cloud Server von Amazon und co. kostet mich 2 Dollar irgendwas pro Stunde.

 

Wo hab ich dem im Post widersprochen?

 

Dein Post deutet an, dass das eine erwähnenswerte Hürde wäre.

 

Wenn du meinst.

 

Die Leute glauben doch jetzt schon alles was die glauben wollen, DF bringt da auch nicht mehr Flacherdler und Impfgegner.

 

DFs sind auch nicht an Flacherdler und Impfskeptiker gerichtet, sondern an Leute, die eigentlich vernünftig sind, aber die Möglichkeiten der Technik nicht kennen.

 

Man kann also die potentiellen Gefahren getrost ignorieren, weil sowieso schon alles scheiße ist? Interessante Haltung.

Ja, die Leute glauben, was sie glauben wollen. Sie lassen sich aber auch gerne Verdachte bestätigen oder durch richtige Maßnahmen in andere Denkmuster lenken. Um dein Beispiel aufzugreifen: Du scheinst zu ignorieren, dass die Zahl der Impfgegner und Flacherdler keine festen Größen sind. Da können noch einige dazukommen.... oder sich abwenden, je nachdem mit welchen Informationen sie beschallt werden.
Deep Fakes sind gefährlich weil es in der heutigen Zeit einige Domänen gibt, in denen das Zusammentreffern mehrerer Technologien zu unerwünschten Effekten führen kann. Ein Beispiel wäre der Aktienmarkt. So wie der heute beschaffen ist, könnte ein gut gemachter Clip eines CEO für sofortige Kursabstürze sorgen. Oder nimm gleich den Politiker... das muss nicht direkt in einen Krieg münden, aber wenn du einen Markt destabilisieren willst, dann sind Deep Fakes eben eine neue Taste auf der Klaviatur.
Dass die schon entsprechend angewendet wurden... naja. Gib der Technologie noch 5 - 10 Jahre, und es dürfte schwieriger werden, Fälschungen als solche zu identifizieren. Und natürlich brauchst du auch erstmal einen Bösen, der abgewichst genug ist, Deep Fakes anzuwenden um ein bestimmtes Ziel zu erreichen.

 

Verstehe die Angstmacherei nicht.

Für kurze Zeit wird es aber sicher ein paar Skandale mit wichtigen Entscheidungsträgern geben, danach hat sich jeder daran gewöhnt und alles geht wieder seinen gewohnten Lauf. Schon heute kann jeder einen CEO in eine Orgie photoshoppen, im Schnittraum den Inhalt von Videos umdrehen oder als Fake-Promi auf Twitter sein Unwesen treiben. Deep Fake ist da fast genau das gleiche.

Und für Normalbürger ist das ganze sowieso egal, weil sich keiner die Mühe machen wird, da was zu faken (wieso auch?).

 

Und was soll in diesen Ultrabösenschlimmen Videos zu sehen sein?

 

Denk doch mal an den umgekehrten Fall: Politiker können (berechtigterweise) alles als Fakes in Zweifel ziehen, wie es ihnen passt. Beweismittel werden nutzlos.

Das Ganze wird die Gesellschaft noch weiter spalten, gibt genug Idioten, die ihre politische Agenda auch mit sowas durchsetzen wollen.

 

Und was ist da anders als heute? du jannst auch heute Videos und Bilder überarbeiten wie du willst.

 

DF Videos lassen sich für Experten - genau wie Photoshop - sicher zweifelsohne als solche identifizieren.

Alles andere haben wir heute schon: Manipulative Youtube-Videos, gefakte Photos auf Facebook, irgendwelche Zitate, die erfunden oder aus dem Zusammenhang gerissen wurden. Große Teile der Bevölkerung leben doch heute schon in einer Post-Truth-Gesellschaft (bei der FPÖ wird aus dem klar bewiesenen Ausverkauf an russische Oligarchen plötzlich eine Geheimdienstverschwörung).

Das ist kein Technologie-, sondern ein Bildungsproblem.

Ich halte die heute schon eingesetzte, algorithmische Zuteilung von Inhalten für 100x gefährlicher als DF. Mit der kann man nämlich selbst gebildete Leute mit völlig korrekten Inhalten manipulieren.

 

Es erfordert zwar heute noch ein bisschen Fachwissen und potente Hardware (schnelle GPUs) aber gib der Technologie noch paar Jahre dann kann jeder Teenager auf dem Schulhof mit dem Smartphone faken. Dann kann man mit der Technologie auch privat sehr viel rumfaken.