Auf Facebook fallen immer mehr Menschen auf KI-Bilder herein – so schützt ihr Freunde & Verwandte vor Betrug

Ein Jesus aus Garnelen. Das sieht witzig aus, sorgt aber für einiges an Aufsehen - und das auf Facebook. (Bild: Adobe Stock - MarutStudio)

Wer in letzter Zeit auf Facebook unterwegs war, der hat ihn vielleicht schon gesehen: Shrimp-Jesus (siehe Bild weiter unten)

Es ist eines von vielen KI-generierten Bildern, die in letzter Zeit große Erfolge auf Facebook feiern. Doch sie sind auch der Grund, warum ihr eure Liebsten und alle, die auf Facebook Zeit verbringen, über KI aufklären solltet.

Betrug durch KI-generierte Bilder auf Facebook

Woher kommen die künstlichen Werke? Midjourney, Dall-E oder andere Tools für KI-genierte Bilder können aus dem Nichts unglaublich realistische Bilder erschaffen – auch wenn das Wort »realistisch« im Zusammenhang mit Shrimp-Jesus wohl das Falsche ist. Doch in diesem Artikel geht es nicht nur um den Messias der Meeresfrüchte.

Was passiert gerade auf Facebook? Wie das Stanford Internet Observatory (SIO) herausgefunden hat, werden immer mehr KI-generierte Bilder auf Facebook gepostet – und das mit Erfolg. Einige Beiträge erreichen mehrere Zehnmillionen Aufrufe. Daran ist erstmal nichts verkehrt, doch das sorgt für ernsthafte Probleme:

KI-generierte Bilder werden häufig für Spam- und Betrugszwecke eingesetzt.

Wodurch entsteht die Gefahr für Facebook-Nutzer? Die Administratoren der Seiten nutzen die enorme Beliebtheit ihrer Posts unter anderem, um die Meinung der Nutzer gezielt zu manipulieren oder auf zwielichtige Seiten zu locken. Das passiert unter anderem durch Links in der Kommentarsektion, oder in den Profil-Informationen.

Bei der Recherche sind wir zum Beispiel auf mehrere KI-Accounts gestoßen, die auf schlecht designte Wordpress-Webseiten verlinkt haben und dazu aufrufen, ein Abonnement abzuschließen:

Der SIO erwähnt auch Seiten, auf denen personenbezogene Daten erhoben oder Produkte verkauft werden, die nicht existieren.

Wie gehen die Betrüger vor? Oftmals werden bestimmte kontroverse Motive oder Themen genutzt, um gezielt ältere, potenziell weniger Internet-affine Bevölkerungsgruppen zu erreichen und dazu zu bringen, mit den Beiträgen zu interagieren. Zu beliebten Themen gehören unter anderem Religion, Politik, Kinder in Not oder vermeintlich beeindruckende DIY-Projekte (siehe Hundeskulptur weiter unten).

Die Personen hinter den KI-Bildern nutzen auch Bot-Accounts, die mit ihren »Kunstwerken« interagieren. So werden die Beiträge mehr realen Personen angezeigt.

59:33 ChatGPT, Midjourney und Co: Wie KI unser Leben verändert (hat)

Eines der größten Probleme ist, dass die Bilder oftmals nicht als unecht erkannt werden. Das liegt daran, dass sie in dem Beitrag beispielsweise als echte Kunstwerke von Malern oder anderen Künstlern verkauft werden. Der Jesus aus Plastikflaschen im unteren Bild ist ein gutes Beispiel für ein semi-realistisches KI-Erzeugnis, dass als eine Art (echtes) Kunstwerk präsentiert wurde.

Um zu prüfen, wie die KI-Accounts vorgehen, hat das SIO 120 Facebook-Seiten mit jeweils mehr als 50 KI-Bildern in Spam- und Betrugsmaschen aufgeteilt. Die Beiträge wurden insgesamt mehrere hundert Millionen mal angesehen.

Das SIO geht davon aus, dass diese extrem beliebten Beiträge auch durch den Algorithmus von Facebook unterstützt werden, sodass auch Menschen diese Bilder sehen, die nicht der entsprechenden Seite folgen.

So schützt ihr eure Liebsten vor KI-Betrügern

Ihr könnt die Menschen in eurem Umfeld ganz leicht vor Betrügern schützen. Das geht am leichtesten in einem direkten Gespräch, doch auch eine kurze Warnung per Chat kann schon einiges bewirken.

Über die folgenden Themen könntet ihr mit euren Liebsten sprechen:

Die Existenz von KI-generierten Bildern & Videos: Es kann sein, dass einige eurer Mitmenschen noch nicht viel vom KI-Hype mitbekommen haben. Klärt sie dementsprechend darüber auf, dass KI-generierte Bilder und Videos existieren und teilweise extrem realistisch aussehen. 

KI-Bilder erkennen: Manche der KI-generierten Werke erkennen die meisten von uns wohl sofort als KI-Bilder. Doch es ist nicht immer einfach. Achtet am besten auf die folgenden Aspekte:

• Schriftzüge: Achtet auf unleserliche oder fehlerhafte Texte in Bildern. KIs haben oft Schwierigkeiten, richtige Schriften darzustellen.
• Hände und Gliedmaßen: Hände und Füße sind oft ein Schwachpunkt von KI-generierten Bildern. Hier könnten ungewöhnlich lange Finger, fehlende Daumen oder unnatürliche Verformungen ein eindeutiges Zeichen für KI-Inhalte sein.
• Logikfehler: Sucht nach Unstimmigkeiten im Bild, wie zum Beispiel fehlenden Bildteilen oder Objekten, die nicht zusammenpassen.
• Unklare Details: KI-generierte Bilder können im Detail oft verschwommen oder unklar sein, selbst wenn der Bildausschnitt gut zu sehen ist.

Mehr Details zu Fehlern in KI-Bildern findet ihr in unserem Artikel zu einem anderen Social-Media-Phänomen: der rauchende Mann aus den 80ern.

Gefahren durch KI: Ihr solltet auch über die möglichen Betrugsrisiken sprechen. Erklärt am besten auch, wie diese Bilder genutzt werden können, um Nutzer zu manipulieren und sie auf betrügerische Seiten zu locken.

Kritische Betrachtung: Manchmal glaubt man gerne, was man sieht, auch wenn es nicht echt ist. Ladet eure Mitmenschen dazu ein, Inhalte kritisch zu hinterfragen, auch wenn sie ihnen gefallen. 

Vorsicht bei Interaktionen: Warnt eure Liebsten vor verdächtigen Links oder fragwürdigen Interaktionen mit anderen Profilen. Nicht jeder Link führt auf vertrauenswürdige Seiten und nicht jeder Mensch, mit dem man chattet, hat offensichtliche oder gute Absichten. Es muss nicht mal unbedingt ein Mensch sein, mit dem man sich unterhält – es könnte auch ein Chatbot sein.

Beliebt bei Gamestar Tech

1

Was das N-Symbol auf Eurem Handy bedeutet und warum es interessant sein kann, es aktiviert zu haben

von Nils Raettig

2

Eine Bauernfamilie fand auf ihrem Land Spuren von Kohlenstofffasern – es stellte sich heraus, dass sie Teil eines bisher unbekannten »Raumschiffs« waren

von Jan Stahnke

3

Win + E ist der vielleicht simpelste Windows-Shortcut, den ihr kennen solltet

von Alexander Köpf

Personenbezogene Daten: Es wichtig zu wissen, dass man im Internet vorsichtig mit seinen Daten umgehen muss. Dazu zählen zum Beispiel der Wohnort oder Passwörter. Im selben Zug könnt ihr eure Mitmenschen auch daran erinnern, dass vertrauenswürdige Plattformen oder Personen, niemals nach Passwörtern fragen. 

Diese Empfehlungen sollen dazu beitragen, dass deine Liebsten besser vor den Betrugsrisiken geschützt sind.

Über welche Themen sollte man noch sprechen? Schreibt es uns gerne in die Kommentare!