Ich bin Autor und die KI-Kennzeichnungspflicht der EU ist ein Witz, denn sie geht nicht weit genug

Als Autor kann ich über die Kennzeichnungspflicht der EU nur lachen. (Bildquelle: Maxe S., GameStar)

Ich bin müde, dabei habe ich der EU-Kennzeichnungspflicht für KI-generierte Inhalte freudig entgegengeblickt. »Endlich macht mal jemand was«, dachte ich mir, wie es halt immer so ist, wenn eine gigantische Macht wie die EU, nun, ein Machtwort spricht.

Es ist eher ein Machtflüstern. Nee, eigentlich nur ein Machthauchen.

Ein Blick in die Verordnung der EU verrät nämlich, dass sie in meinen Augen nicht mehr als ein Lippenbekenntnis ist – zumindest was den Schutz vor KI-generierten Inhalten geht, sowohl für Kunstschaffende als auch Konsumentinnen und Konsumenten.

Maxe Schwind

Maxe ist selbst Autor und Lektor in den Genres Fantasy und Horror. Von generativer KI hat er sich noch nichts schreiben lassen und hat das auch nicht vor, da er die menschliche Kreativität mehr schätzt als die Datenverarbeitung. Er beschäftigt sich aber sehr wohl nahezu täglich damit.

Kennzeichnungspflicht nur für »interessante Texte«

Einer von drei meiner Kritikpunkte betrifft die Tatsache, wo die KI-Kennzeichnungspflicht denn nun wirklich greift. Klar, KI-generierte Bilder, Videos und auch Audios müssen klar sichtbar als solche deklariert werden. Dafür hat die EU auf ihrer Webseite sogar Label ausgewiesen.

Was Texte betrifft, drückt die Verordnung sich dermaßen schwammig aus, dass mir überhaupt nicht klar ist, wann was gekennzeichnet werden muss. ZDF Heute schreibt beispielsweise, dass die Kennzeichnungspflicht nur bei »veröffentlichten Texten von allgemeinem Interesse« bestünde. Uns spukt wohl allen gerade dieselbe Frage im Kopf herum:

»Was ist ein veröffentlichter Text von allgemeinem Interesse?«

Star Wars: Erben des Imperiums

Timothy Zahn

Fünf Jahre sind seit dem Sieg über den Imperator vergangen und die Galaxis versucht, sich von den Auswirkungen des Krieges zu erholen. Tausende von Lichtjahren entfernt aber hat der letzte der imperialen Kriegsherren, der brillante Großadmiral Thrawn, das Kommando über die zerrüttete Imperiale Flotte übernommen – und richtet diese auf die noch schwache Neue Republik.

zu Amazon

Mit Sicherheit trifft das auf politische Statements zu, oder öffentliche Mitteilungen. Was aber ist mit Artikeln auf Webseiten? Oder Posts in den sozialen Medien?

Was mich am meisten beschäftigt: Wie sieht es mit Büchern aus? Bücher sind veröffentlichte Texte, logisch, aber wann ist ein Buch von »allgemeinem Interesse«? Wenn Sebastian Fitzek der Autor ist? Oder reicht es schon, wenn es im Buchhandel steht?

So viele Fragen und keine Antworten. Mir ist klar, dass die Kennzeichnungspflicht vor allem gegen Fake News vorgehen soll, aber sie lässt dermaßen viele potenzielle Fragen im Dunkeln, dass ich nur den Kopf schütteln kann.

Gerade Autorinnen und Autoren gehören zu den größten Opfern von generativer KI. Eine Studie von arXiv fand mehrere Dinge heraus:

• Eine Probe von 14.419 selbstveröffentlichten Genre-Fiction-Titeln ergab, dass Amazons Katalog mit den erfassten Quartalsverkäufen von 2023 bis Juni 2026 um das 19,2-Fache wuchs.
• Bücher, bei denen mehr als 25 Prozent des Textes als KI-generiert erkannt wurden, machen 20 Prozent der Stichprobe aus.
• In Genres, in denen mehr Titel bei Kindle Unlimited verfügbar sind, ist der Vorsprung der Nicht-KI-Bücher beim Verkaufsanteil um 8,5 Prozentpunkte geringer als in Genres, in denen KU weniger stark vertreten ist.

Oder anders: Es landen haufenweise KI-generierte oder KI-gestützte Bücher auf Amazon. Die genaue Zahl lässt sich nicht beziffern, aber allein die Tatsache, dass innerhalb von drei Jahren 20 Prozent mehr Bücher in dedizierten Genres auf Amazon erschienen sind, spricht eine eindeutige Sprache.

Gemäß der EU-Kennzeichnungspflicht müssen diese Bücher nicht als KI gekennzeichnet werden – schon gar nicht, wenn die redaktionell geprüft wurden, was uns zum nächsten Fallstrick führt.

51:40 Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche

Die Kennzeichnungspflicht lässt sich kinderleicht aushebeln

Bei der Kennzeichnungspflicht ist die Rede davon, dass KI-Texte die nicht ausreichend menschlich, redaktionell überprüft worden sind, ein Label brauchen. Und auch hier stellt sich die Frage, was denn nun »ausreichend menschlich, redaktionell überprüft« überhaupt bedeutet?

Nein, eigentlich stellt sich die Frage nicht, denn eben jene Überprüfung lässt sich kinderleicht umgehen.

Wenn ich also mein mit ChatGPT erstelltes Buch nur aufmerksam genug durchlese und hier und da ein paar Änderungen vornehme, bin ich auf der sicheren Seite. Dann gilt das Werk nicht mehr ausweisungspflichtig – sofern es Bücher gemäß Punkt eins dieses Artikels überhaupt sind. Ich spreche hier allerdings nicht nur von Büchern.

Die Aussage mit der redaktionellen Überprüfung ist dermaßen wachsweich, dass man sie nicht mit Fakten festzurren kann. Wenn ich den von ChatGPT ausgespuckten Text für gut erachte, reicht das als »redaktionelle Überprüfung«? Dass mir das als Buchautor in den Hintern beißt, vollkommen klar, aber das gilt ja für alle Texte: Webseiten, Aushänge, Magazine.

Bei Texten – egal, welcher Form – kann also niemand für KI-Nutzung verantwortlich gemacht werden, solange der Inhalt nicht absurd falsch und offensichtlich aus einer LLM stammt. Bravo.

Die Wurzel des Problems wird nicht angepackt

Die für mich allergrößte Baustelle, die nahezu jeder vergessen (oder zumindest akzeptiert) zu haben scheint, ist die Tatsache mit den gestohlenen Trainingsdaten. Nach wie vor arbeiten ChatGPT, Claude, Gemini und Co. mit Datensätzen, für die sie zum Teil kein Urheberrecht haben. 

Es gibt zwar mittlerweile einige wenige Urteile, wie die erfolgreiche Klage US-amerikanischer Autorinnen und Autoren gegen Anthropic (via Reuters), aufgearbeitet oder gar vergolten ist dieser Diebstahl damit allerdings nicht. Das Kind liegt längst am Boden des Brunnens.

Ich mache mir da nichts vor: Eine Kennzeichnungspflicht wäre dieses Problem überhaupt gar nicht erst angegangen. Für mich wiegt das aber nochmal schwerer, weil auch meine Bücher in sogenannten Schattenbibliotheken zu finden sind, die unter anderem von Meta genutzt wurden, um LLMs zu trainieren. Heise berichtete.

Viel mehr habe ich das Gefühl, als hätte die Welt akzeptiert, dass der vermeintliche technologische Fortschritt nun mal auf den Rücken der Kunstschaffenden vorangetrieben wurde. Ja, eine Kennzeichnungspflicht ist wichtig und richtig, um uns alle vor Fake News zu schützen, aber die Diskussion über unendlichfach gestohlenes geistiges Eigentum wurde nie geführt. Oder zumindest nur im Rahmen etwaiger Klagen, die nicht im Geringsten den Schaden aufarbeiten können, der bereits durch die KI-Firmen entstanden ist.

Und während ihr das hier lest, karren KI-Firmen palettenweise alte Schinken in die USA, um ihre Systeme weiter zu trainieren, ob wir das wollen, oder nicht. Natürlich werden die Bücher danach vernichtet, da die Seiten zum Scannen vom Buchrücken weggeschnitten werden, und damit unbrauchbar sind.

1:53:19 Der KI-Hype frisst sich selbst – Tech-Jahresrückblick 2025

Fazit

Nochmal: Die KI-Kennzeichnungspflicht der EU ist ein wichtiger erster Schritt – aber bei Weitem nicht genug. Zum einen deckt sie weder alles ab, was sie sollte. Zum anderen lässt sie sich spielend leicht umgehen, so man denn will.

Eine erste mögliche Barriere gegen Falschinformationen ist errichtet, doch ob die den KI-Wassermassen standhält, die das Internet mit fluten, muss sich erst noch zeigen.

Ich finde bereits jetzt, dass die Kennzeichnungspflicht zu kurz greift, und sie hätte viel schärfer formuliert werden müssen. Die Überprüfung wäre im Nachgang immer noch nahezu unmöglich gewesen, aber sie hätte womöglich ein paar Leute abgeschreckt.

Passend zum Thema:

• Trotz KI-Kennzeichnungspflicht: An diesen Merkmalen erkennt ihr Texte und Bücher, die mit KI erstellt wurden
• Wenn KI Autoren ersetzt, liegt es auch daran, dass viele Bücher auf dem Buchmarkt ersetzbar geworden sind

Abschließend möchte ich noch sagen, dass ich als Autor – sei es für GameStar oder meine Bücher – keine Angst vor generativer KI habe. Diesem vermeintlichen Irrglauben, man sei nicht gut genug, wenn man mit KI-Grütze nicht konkurrieren könnte, sitze ich nicht auf.

Der Denkfehler liegt da bereits im Kern: Kunst, egal, welche, lässt sich nicht daran bemessen, wie viel Geld sie einnimmt. Kunst und Kommerz stehen für mich diametral zueinander, denn ersteres liegt wie immer im Auge des Betrachters oder der Betrachterin. Kunst liegt eine Intention zugrunde, die generative KI beim Erstellen eines Bildes oder Textes nicht hat. Ich bin ja auch kein Pizzabäcker, wenn ich eine Pizza Salami bestelle.

Aber in einer Welt, in welcher der US-amerikanische Präsident mehrmals täglich KI-Bilder und -Videos von sich postet, will ich ausreichenden Schutz davor – als Mensch und als Künstler. Das erwarte ich von der EU.