Wie schlimm ist KI-Slop wirklich? Ein YouTuber zieht für diese Antwort einen derben Vergleich, der bei mir hängen bleibt

Siliconversations erklärt in seinem Video, warum man KI-Slop und Kannibalismus durchaus vergleichen kann. (Bildquelle: Screenshot Siliconversations / Youtube; dimamoroz / Adobe Stock)

Vor kurzem wurde mir auf YouTube ein Video mit dem Titel »Is AI Slop Worse Than Cannibalism?« auf die Startseite gespült. Der gewagte Titel hat dabei genau seinen Zweck erfüllt: Ich musste sofort darauf klicken.

Das Video stammt vom YouTuber Siliconversations, der mit simplen Zeichentrick-Animationenen komplexe Themen verständlich aufbereitet. In diesem Fall »KI-Slop« und wie schädlich dieser für die Gesellschaft ist.

Die provokante Frage, ob KI schlimmer als Kannibalismus sei, beantwortet der YouTube-Kanal relativ schnell mit einem klaren Nein – was selbstverständlich sein sollte. Vielmehr nutzt er den Vergleich als moralisches Gedankenexperiment. Und genau diese ungewöhnliche Metapher hat mich dazu bewegt, diese Kolumne zu schreiben.

Wir sollten uns mehr Gedanken über KI-Slop machen

Ich teile zwar nicht jede Schlussfolgerung des Videos, doch Siliconversations trifft bei dem Kernpunkt für mich total ins Schwarze: Wir sollten uns dringend Gedanken darüber machen, was KI-generierte Masseninhalte langfristig mit unserer Kreativität, unserer Kommunikation und unserer Kultur anstellen.

Bevor ich aber darauf eingehe, warum der zugegebenermaßen weit hergeholte Vergleich mit Kannibalismus überraschend gut funktioniert und welche Aspekte aus meiner Sicht nicht untergehen dürfen, sollten wir erst einmal einige grundlegende Dinge klären.

Zunächst könnt ihr euch gerne mal das Video von Siliconersations reinziehen:

Link zum YouTube-Inhalt

Anschließend sollten wir klären, was KI- oder eben AI-Slop eigentlich ist. Wie der Name »Slop«, also »Abfall« schon vermuten lässt, handelt es sich dabei um meist billig produzierte, massenhaft verbreitete KI-Inhalte im Internet. 

Dazu gehören unter anderem automatisch generierte Bilder, Videos, Texte oder Social-Media-Posts, die vor allem darauf ausgelegt sind, möglichst schnell Aufmerksamkeit zu erzielen, ohne dabei einen nennenswerten Mehrwert zu bieten.

Doch wann wird ein KI-generierter Inhalt überhaupt zu Slop? Schließlich ist nicht jedes Bild, das mithilfe künstlicher Intelligenz erstellt wurde, automatisch schlecht oder wertlos. Und auch wenn ich selbst kein Fan von KI-Grafiken bin, können sie beispielsweise bei der Visualisierung helfen. Etwa von Konzepten oder abstrakten Dingen, die auf andere Art schwierig wären.

Ein gutes Beispiel dafür ist aktuell in Regensburg zu sehen. Dort hängt im Einkaufszentrum Regensburg Arcaden ein KI-generiertes Plakat, das die Zukunft des Gebäudes zeigen soll. Während das Gebäude selbst noch halbwegs normal aussieht, wird es bei den abgebildeten Menschen ziemlich absurd: zusätzliche Beine, deformierte Gesichter und unnatürliche Körperproportionen, die teilweise schon etwas gruselig wirken.

Link zum TikTok-Inhalt

Statt einer sorgfältig ausgearbeiteten Zukunftsvision sieht das Ganze eher nach einem schnell generierten KI-Bild aus, das ohne größere Qualitätskontrolle direkt für die Öffentlichkeit freigegeben wurde.

Besonders ironisch finde ich dabei den Spruch auf dem Plakat: »Sieh dich gerne satt an diesem Anblick«. Ausgerechnet ein Motiv, das bei genauerem Hinsehen voller offensichtlicher KI-Fehler steckt, fordert die Besucher also dazu auf, es sich besonders gründlich anzusehen.

Dabei wäre es heutzutage selbst mit KI-Werkzeugen möglich, viele dieser Fehler nachträglich zu korrigieren. Für mich zeigt das Beispiel deshalb ziemlich gut, worum es bei KI-Slop häufig geht: Nicht die Verwendung künstlicher Intelligenz allein ist das Problem, sondern die fehlende Sorgfalt beim Umgang mit den Ergebnissen.

Passend dazu:

Drei Gründe, warum gerade alle glauben, dass die KI-Blase platzt

von Ursula Demling

Bezüge zur Dead-Internet-Theorie

Damit kommen wir zu einem weiteren interessanten Phänomen, das in diesem Zusammenhang häufig auftaucht: der Dead-Internet-Theorie.

Diese beschreibt die Vorstellung, dass ein immer größerer Teil des Internets nicht mehr von echten Menschen, sondern von Bots, automatisierten Accounts und künstlicher Intelligenz geprägt wird.

Die Theorie gibt es schon länger als moderne KI-Systeme, doch hat sie mit dem Durchbruch von LLMs 2021 große Aufmerksamkeit bekommen. Oft wird diskutiert, ob das Internet bereits um 2016 »ausgestorben« sei, weil echte menschliche Inhalte seitdem immer mehr durch künstliche Inhalte verdrängt werden.

Inwiefern die Theorie zutrifft, ist bisher nicht bewiesen. Allein durch den hohen Anteil an Inhalten im Netz ist es schließlich auch schwer zu erfassen, was davon jetzt wirklich aus Menschenhand stammt. Fest steht allerdings, dass das Aufkommen von generativer KI den Prozess deutlich beschleunigt haben dürfte.

20:10 Profit zu jedem Preis? Warum das Internet stirbt und alle nur zuschauen

Seien es KI-generierte Werbeanzeigen für fragwürdige Webseiten oder das nächste Mobile Game, das am Ende völlig anders aussieht als in der Werbung. Bewusst manipulierte Inhalte wie Deepfakes, mit denen Falschinformationen verbreitet oder Menschen geschädigt werden. Oder sogar vollständig von KI geschaffenen Influencern.

Gerade Letztere verbreiten sich in den sozialen Medien wie ein Lauffeuer. Künstlich erschaffene Personen wie Jean Philanthrope – ein KI-Influencer mit auffälliger Frisur, gezwirbeltem Schnurrbart und einem ziemlich einprägsamen Auftreten – erreichen innerhalb kürzester Zeit Hunderttausende Follower und Millionen von Videoaufrufen.

Doch hinter solchen KI-Personas steckt nicht immer der Wunsch, Kunst zu erschaffen oder spannende Inhalte zu produzieren. Häufig geht es schllicht darum, mit möglichst wenig Aufwand möglichst viel Aufmerksamkeit zu generieren – und diese anschließend in Geld umzuwandeln.

Wie genau das funktionieren kann, zeige ich später am Beispiel von Jean Philanthrope. Doch zunächst zurück zur Frage, was das alles eigentlich mit Siliconversations' gewagten Vergleich zu tun hat.

Darum wählt das Video den gewagten Vergleich

Wie ihr in Siliconversations Video vielleicht gesehen habt, beginnt der Creator mit einem ziemlich absurden Gedankenexperiment: Könnte Kannibalismus theoretisch, und wenn man die moralischen und ethischen Gründe ausschließt, Vorteile haben – etwa als zusätzliche Nahrungsquelle oder um Ressourcen zu sparen?

Die Frage ist relativ schnell beantwortet, denn selbst dann wären enorme gesundheitliche und gesellschaftliche Risiken wie das Übertragen gefährlicher Krankheiten, Gewalt, Entmenschlichung und vieles mehr damit verbunden. Der fragwürdige Nutzen steht deshalb in keinem Verhältnis zu den möglichen Schäden.

Doch genau hier setzt Siliconversations mit seiner eigentlichen Argumentation an: Nur weil etwas möglich ist oder theoretische Vorteile bringen könnte, bedeutet das noch lange nicht, dass es auch gesellschaftlich sinnvoll oder moralisch richtig ist. So wie Kannibalismus niemals etwas Richtiges ist.

Diesen Gedanken überträgt Siliconversations auf KI-generierte Inhalte. Und auch wenn der Vergleich extrem überspitzt ist, hat er dadurch seine Wirkung.

Passend zum Thema:

Große KI-Unternehmen »spielen mit unseren Leben« – warum Forscher gerade Alarm schlagen und welche Konsequenzen folgen

von Jan Stahnke

Was, wenn wir dabei zunehmend die menschliche Kreativität aus dem Prozess nehmen?

Siliconversations argumentiert, dass die menschliche Kultur überhaupt erst durch den Austausch zwischen Menschen entsteht. Bücher, Filme, Musik, Kunst, Videos und andere Medien sind nicht einfach nur Produkte, sondern auch Ausdruck von Ideen, Erfahrungen und Gefühlen.

Wenn wir diese menschlichen Ausdrucksformen zunehmend durch automatisierte Inhalte ersetzen, gefährden wir seiner Ansicht nach etwas, das unsere Gesellschaft überhaupt erst ausmacht: die Kommunikation miteinander.

KI-Slop wäre demnach nicht bloß schlechter Content, sondern eine Entwicklung, die langfristig menschliche Kreativität und den kulturellen Austausch verdrängen könnte. Genau wie es die Dead-Internet-Theory besagt.

Hinzu kommen die bereits bestehenden Probleme generativer KI. Etwa der steigende Energiebedarf für Rechenzentren, der erhebliche Ressourcenaufwand sowie offene Fragen zum Urheberrecht bei Trainingsdaten und die Gefahr, dass KI-generierte Falschinformationen immer überzeugender werden.

Gerade bei KI-Slop stellt sich für mich deshalb die Frage, ob der zusätzliche Ressourcenverbrauch wirklich gerechtfertigt ist, wenn damit massenhaft Inhalte produziert werden, die oft schon nach wenigen Sekunden wieder in Vergessenheit geraten.

KI sollte niemals menschliche Kreativität ersetzen

Häufig wird KI nicht mehr als unterstützendes Werkzeug verwendet. Im Gegenteil dient es oft als billiger und schneller Weg, um für kurze Zeit Klicks zu generieren und Aufmerksamkeit zu bekommen. Und wie schnell sich daraus ein fragwürdiges Geschäftsmodell entwickeln kann, zeigt ausgerechnet der zuvor erwähnte KI-Influencer Jean Philanthrope.

Rund um die virale Figur wurde nämlich auch ein sogenannter Meme-Coin beworben – eine Kryptowährung, deren Wert vor allem von Aufmerksamkeit und Spekulation abhängt. Statt einem »Kunst«-Projekt steht hinter dem Hype für mich also viel mehr eine ekelhafte Masche für schnelles Geld.

Link zum TikTok-Inhalt

Diese Fälle zeigen für mich, wohin solche Entwicklungen gehen können. Es geht nicht mehr unbedingt darum, Inhalte zu erschaffen, die Menschen etwas geben, sondern darum, Aufmerksamkeit möglichst effizient in Geld umzuwandeln.

Siliconversations behauptet nicht, bewiesen zu haben, dass KI-Slop schlimmer als Kannibalismus ist – darum geht es in dem Video auch nicht. Er hält es allerdings für denkbar, dass die gesellschaftlichen Schäden einer extremen KI-Slop-Zukunft größere Auswirkungen haben könnten, als vielen bewusst ist.

Mit dem Gedankenexperiment möchte er aus meiner Sicht viel mehr zeigen, dass wir auch bei neuen Technologien die langfristigen gesellschaftlichen Konsequenzen berücksichtigen müssen, statt uns ausschließlich auf ihren unmittelbaren Nutzen zu konzentrieren.

Der Videoautor wünscht sich deshalb eine starke Ablehnung von KI-Slop, wie sie auch gegenüber anderen Themen gezeigt wird, die unserer Gesellschaft schaden.

KI begegnet uns immer mehr im Alltag

Mein Fazit: KI im Allgemeinen zu verteufeln, halte ich für den falschen Ansatz. Schließlich kann es als unterstützendes Werkzeug oder gerade in der Forschung einen deutlichen Mehrwert liefern. Etwa wenn Parkinson-Patienten durch KI besser leben oder Krankheiten besser erforscht werden können.

Dass wir der Flut an KI-Masseninhalten im Internet, vor allem im Bereich der Kunst und Kultur, kritisch gegenüberstehen sollten, unterschreibe ich allerdings sofort. Denn gerade dort wächst der Druck durch immer schneller und günstiger produzierte Inhalte enorm.

Besonders problematisch finde ich es, wenn dabei die menschliche Kreativität und der Austausch miteinander zunehmend in den Hintergrund rücken. Statt echter Ideen und persönlicher Geschichten bekommen wir austauschbare KI-Inhalte, die vor allem auf Klicks und Reichweite ausgelegt sind. Wie das Beispiel Jean Philanthrope zeigt, kann dabei sogar eine künstlich erschaffene Persönlichkeit zum Geschäftsmodell werden.

Mehr zum Thema KI:

Über 16 Milliarden Euro, eine Fläche von 1.300 Fußballfeldern und ein Ziel von 1 Terawatt: Elon Musk kündigt mit der Terafab die »größte KI-Chipfabrik der Welt« an und die Pläne werden konkreter

von Nils Raettig

Am Ende geht es mir deshalb nicht darum, KI aus unserem Alltag zu verbannen. Es geht darum, bewusst zu entscheiden, in welchen Bereichen wir diese Technologie wirklich brauchen. Denn nicht alles, was wir automatisieren können, sollten wir auch automatisieren.

Aber wie seht ihr das? Was haltet ihr von KI-generierten Inhalten? In welchen Bereichen findet ihr den Einsatz sinnvoll oder vertretbar, und wo zieht ihr eine klare Grenze? Schreibt mir eure Meinung gerne in die Kommentare.