»Müll rein, Müll raus« – Berühmte Autorin hat einmal Claude ausprobiert und war weniger begeistert

Bestseller-Autorin Margaret Atwood erzählt von ihrem einzigen Claude-Versuch und was dabei schiefging. (© Anthropic / Wikimedia Commons)

Margaret Atwood, Autorin von »Der Report der Magd« (»The Handmaid's Tale«) und seit Jahrzehnten eine der meistgelesenen Stimmen der Gegenwartsliteratur, hat in ihrem Leben genau einen Ausflug in die Welt der KI-Chatbots unternommen.

Den Anlass wählte sie bescheiden: Sie wollte einen Spoiler zur britischen Kriminalserie »Pater Brown« herausbekommen. Das Experiment scheiterte – und ließ Atwood zur Generalkritik ausholen.

51:40 Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche

Autoplay

Claude log – und wusste es nicht

Bei einem Publikumsgespräch auf dem Babell Literary and Cultural Festival im portugiesischen Porto schilderte die kanadische Schriftstellerin ihren bisher einzigen Versuch: Sie habe Anthropics KI-Modell Claude auf der Suche nach einem Handlungsspoiler genutzt. Claude lieferte eine Antwort – doch die war falsch.

Claude hat mich belogen. Natürlich wusste es nicht, dass es log, weil es kein Mensch ist – es ist ein großes Sprachmodell. Es hatte zwar viele Rezensionen der Serie verarbeitet – doch da Online-Rezensionen Handlungsauflösungen konsequent meiden, wurde es von dem, was es gelesen hatte, in die Irre geführt.

Margaret Atwood via Deadline

Das Problem nach Ansicht von Atwood lässt sich also wie folgt zusammenfassen: KI-Modelle sind auf das Trainingsmaterial angewiesen, das ihnen zur Verfügung steht.

Wo dieses Material eine bestimmte Information systematisch ausspart – in diesem Fall, weil Kritiker Spoiler meiden –, produziert das Modell eine Lücke oder füllt sie falsch auf, was auch als Halluzinationen bezeichnet wird.

Nvidia will eines der größten Probleme von KI-Rechenzentren in der nächsten Generation lösen

Der GIGO-Grundsatz findet auch in der KI Anwendung

Ihr Fazit fasste Atwood wiederum in einem Satz aus der frühen Computergeschichte zusammen: »Müll rein, Müll raus.« Im Englischen ist das auch als das GIGO-Prinzip oder »Garbage In, Garbage Out« bekannt.

Das Prinzip beschreibt, dass fehlerhafte oder unvollständige Eingaben zu falschen Ausgaben führen – unabhängig davon, wie leistungsfähig das verarbeitende System ist. Der Mensch sei eben kein Roboter, aber ein Opportunist: Wo Betrug leicht und schwer zu entdecken sei, werde er stattfinden.

Selbst wer KI für geschäftliche Zwecke nutze, müsse die Ergebnisse überprüfen – weil das System auch anfällig für Fehler ist.