Trotz KI-Kennzeichnungspflicht: An diesen Merkmalen erkennt ihr Texte und Bücher, die mit KI erstellt wurden

Mit ChatGPT und anderen LLMs geschriebene Text weisen deutliche Merkmale auf. (Bildquellen: adobe.stock.com - PixelArt_25, OpenAI)

Ihr wart sicherlich schon in der Situation, in der ihr einen Text gelesen habt, der sich irgendwie »komisch« angefühlt hat – sei es online, in einem Magazin oder Buch. Meist fällt der Verdacht auf generative KI, also solche, die besagten Text (oder Passagen darin) geschrieben hat.

Seit 2. August 2026 ist nun die KI-Kennzeichungspflicht der EU als Teil des AI Acts (via EU) in Kraft getreten. Das bedeutet:

• KI-generierte Bilder und Videos müssen als solche kenntlich gemacht werden.
• Auch Voicebots müssen zu Beginn eines Gesprächs unmissverständlich klarmachen, dass sie selbst KI sind.
• Das Label muss sichtbar sein, ein Wasserzeichen ist nicht (mehr) genug.

Wie solche Labels aussehen, hat die EU mit einer Liste zulässiger Kennzeichen klargemacht, zu finden auf der Webseite der EU-Kommission.

Haarig wird es bei Texten, die mit KI generiert wurden, entweder ganz oder zu Teilen. ZDF Heute schreibt beispielsweise, dass die Kennzeichnungspflicht nur bei »veröffentlichten Texten von allgemeinem Interesse« bestünde und nennt als Beispiele:

• Politischen Stellungnahme
• Öffentliche Informationsangeboten
• Mitteilungen zu wichtigen Infrastruktur- und Bauprojekten

Eine weitere Ausnahme versteckt sich im Kleingedruckten, denn die Kennzeichnung sei nur dann erforderlich, wenn »keine ausreichende menschliche, redaktionelle Kontrolle« stattgefunden hätte.

Im Umkehrschluss bedeutet das zwei Dinge:

1. Ein Text kann trotzdem KI-generiert sein, so lange er redaktionell ausreichend geprüft wurde.
2. Für Inhalte, die nicht von allgemeinem Interesse sind, gilt die Kennzeichnungspflicht nicht, also beispielsweise Shop-Beschreibungen auf Webseiten, Blogeinträge, Bewerbungsschreiben oder interne E-Mails.

Metro 2033

Taschenbuch

Im Jahr 2033 liegen große Teile der Welt nach einem atomaren Krieg in Schutt und Asche. Die Oberfläche ist verstrahlt und die letzten Überlebenden tummeln sich unter Tage - in der Metro.

14 €

zu Amazon

Euch werden in den sozialen Medien, auf privaten Webseiten und Texten also immer noch KI-Inhalte begegnen. Um letztere zu erkennen, geben wir euch 5 Tipps mit auf den Weg.

KI-generierte Texte und Bücher erkennen – So geht’s

Ein kleiner Hinweis vorweg: Unsere Tipps sind lediglich als Handreichungen zu verstehen. Es gibt keine wasserdichten Beweise, um KI-Texte und -Bücher von außen zu erkennen. Nicht einmal KI-Detektoren können das zuverlässig.

Darüber hinaus bezieht sich der Inhalt dieses Guides auf deutsche Texte. Die Tipps sind daher nur bedingt auf andere Sprachen wie Englisch anwendbar.

1. Austauschbare Floskeln

Wenn ihr euch von ChatGPT oder einer anderen LLM schon mal einen Text habt erstellen lassen, ist euch sicher aufgefallen, dass sie gerne stilistische Floskeln verwenden, um flüssiger zu klingen. Das können sein:

Einleitungen

• »Grundsätzlich gilt …«
• »Nicht zuletzt …«
• »Betrachten wir zunächst …«
• »Dabei spielt … eine entscheidende Rolle.«
• »Es ist wichtig zu beachten, dass …«

Überleitungen

• »Darüber hinaus …«
• »Ein weiterer Aspekt ist …«
• »Gleichzeitig …«
• »Nicht nur …, sondern auch …«
• »Außerdem/Zudem …«

Fazits

• »Zusammenfassend lässt sich sagen …«
• »Es lohnt sich, …«
• »Beide Ansätze haben ihre Vor- und Nachteile.«
• »Letztlich hängt es davon ab …«
• »Die beste Lösung hängt von den individuellen Anforderungen ab.«

2:32 Dieses KI-Tool der AfD ist eigentlich nicht zulässig

2. Typische Satzmuster

Natürlich haben sich in unserer Sprache bestimmte Floskeln oder Satzmuster geprägt. Allerdings verwenden wir sie vergleichsweise selten im Vergleich zu KI. Gerade weil es uns vertraute Wortketten sind, greifen LLMs darauf zurück.

• »X zeichnet sich dadurch aus, dass …«
• »Nicht nur …, sondern auch …«
• »X ist nicht nur Y, sondern auch Z.«
• »Ob X oder Y – …«

3. Immergleiche verstärkende Worte

Um eine Aussage zu bestärken, greifen LLMs zu den immerselben Worten. Das können die folgenden sein:

• »maßgeblich«
• »wesentlich«
• »entscheidend«
• »erheblich«
• »signifikant«

4. Hedging

Damit beschreibt man die Praktik, bestimmte Aussagen abzuschwächen, um sie nicht als ultimativ darzustellen. Das können Konjunktionen sein oder Wörter, die Aussagen schwächer darstellen, ähnlich zu den eben genannten verstärkenden Worten.

• »kann/könnte«
• »in vielen Fällen«
• »häufig«
• »nicht zwangsläufig«
• »je nach Kontext«

5. Marketing- oder Ratgebersprache

Wir fragen LLMs sehr gerne um Rat, wenn wir uns etwa zwischen zwei Dingen entscheiden müssen. ChatGPT und Co. verfallen dabei gerne in Sprachmuster, die wir aus dem Marketing oder von Ratgebern kennen. In aller Regel fällt das durch übertrieben positive Wortwahl und Floskeln auf.

• »auf das nächste Level bringen«
• »eine Vielzahl von Möglichkeiten«
• »perfekt geeignet«
• »optimal abgestimmt«
• »echter Gamechanger«

51:40 Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche

Allgemeine Erkennungsmerkmale von KI-Texten

Manchmal ist es nicht so einfach, den Text einer LLM anhand der verwendeten Worte zu erkennen. Dann hilft ein Schritt zurück, und die Struktur zu betrachten, bei der sich die Maschinen an immergleichen Mustern bedienen.

• Strukturelle Einheitlichkeit. Das kann sich sowohl auf einen immer ähnlichen Satzrhythmus beziehen als auch die Struktur des Textes selbst: Einleitung, Hauptteil, Schluss. Das ist nicht falsch, aber das sklavische Halten an diese Struktur verrät einen KI-Text meist.
• Fehlender Tiefgang. Im Vergleich zu professionellen von Menschen geschriebenen Texten bleibt KI meist an der Oberfläche – und zwar mit den in diesem Artikel bereits genannten Floskeln und Wörtern. ChatGPT suggeriert also nur Tiefe.
• Falsche Fazits. Fazits fassen einen Text zusammen und bieten im Bestfall eine Schlussfolgerung dessen, was den Inhalt ausmacht. Fazits von LLMs kauen oftmals nur wieder, was sie bereits aufgedröselt haben, ohne echten Erkenntnisgewinn.
• Neutrale Sprache. Selbst wenn wir beim Erstellen eines Textes der LLM sagen, sie solle es wie ein bestimmter Experte oder für eine bestimmte Zielgruppe formulieren, bleibt die KI sprachlich neutral. Die fehlende Individualität, die Menschen besitzen, die oft schreiben, bleibt dabei völlig außen vor. Keine originellen Gedanken oder neue Einblicke.
• Inhaltliches Wiederholen. Ein von ChatGPT geschriebener Text kann noch so rund wirken, er dreht sich nicht seltem im Kreis. Zu den bereits erwähnten stilistischen Floskeln und Marotten gesellt sich dann ein Inhalt, der nichts Neues offeriert, sondern inhaltlich fast dasselbe bietet – nur in Grün.
• Menschliches fehlt. Damit sind unter anderem gemeint Dialekte (»Heiligs Blechle«), Umgangssprache (»Alles gut«, »rumhängen«), Redewendungen (»den Nagel auf den Kopf treffen«, »die Nase vorn haben«) oder Lautmalerei (»Krachbumm«, »Miau/Wuff«) gemeint.

Fazit: Menschen denken beim Schreiben, LLMs berechnen Wahrscheinlichkeiten

Personen, die mit Worten geübt sind, wechseln ihre Sprache ab. Jeder von uns hat einen eigenen Schreibstil, den wir über Jahre des Schreibens – und sei es nur per WhatsApp mit Freunden – erlangt haben. Diese menschlichen Erfahrungswerte kann eine LLM nicht replizieren.

Das bedeutet im Umkehrschluss, dass wir Menschen nach empathischen Texten suchen. Um mir schnell eine Fehlermeldung bei Windows zu erklären, dabei helfen ChatGPT und Co. ungemein. Texte oder Bücher, mit dessen Inhalt wir uns auseinandersetzen, halten dem kritischen Auge nicht stand.

Passend zum Thema:

• Eine Autorin schreibt im Monat 2 Romane und verdient damit ihr Geld – ihr Trick besteht darin, möglichst wenig zu schreiben
• KI-Firmen kaufen massenweise Bücher – und werfen sie hinterher in den Müll
• Wenn KI Autoren ersetzt, liegt es auch daran, dass viele Bücher auf dem Buchmarkt ersetzbar geworden sind

LLMs berechnen Wahrscheinlichkeiten und das schließt Texte nicht aus. Dadurch entstehen Floskeln sowie ein Inhalt, der darauf basiert, was der KI am wahrscheinlichsten erscheint. Kurzgesagt: sie rät. Das kann sich in furchtbar langweilig zu lesenden Texten niederschlagen – oder in Falschinfomationen, weil die KI halluziniert.

Vermutet ihr einen Verstoß gegen die KI-Kennzeichnungspflicht, könnt ihr das bei der Bundesnetzagentur melden.

Mit unserem Guide tut ihr euch hoffentlich leichter, mit KI geschriebene Texte zu identifizieren, sei es online oder offline. Seid ihr euch mal unsicher, ob ihr gerade einen maschinellen Text vor der Nase habt, stellt euch eine Frage, die ihr alle aus dem Deutschunterricht kennt:

Was will uns der Autor oder die Autorin damit sagen?

Warum sollte ein Autor oder eine Autorin eine bestimmte Standardfloskeln verwenden? Wieso bleibt er stets an der Oberfläche? Weshalb schwächt er seinen eigenen Text ab? Findet ihr darauf keine Antworten und keinen Grund, handelt es sich mit hoher Wahrscheinlichkeit um einen KI-Text.