Ich habe mich früher über konfuse Antworten von ChatGPT und Co. geärgert, bis ich das Problem mit einem einfachen Trick gelöst habe

Bestimmt habt ihr schon öfter bemerkt, dass KI manchmal seltsame Formulierungen verwendet oder schlichtweg Stuss erzählt. Das passiert häufiger mal und ist für mich mittlerweile etwas Alltägliches. 

Es gibt allerdings eine einfache Möglichkeit, die Aussagen von ChatGPT präziser oder andersherum kreativer zu machen, falls ihr Bedarf daran habt.

Temperatur bestimmt nicht nur wie warm es bei euch ist

Large Language Models (LLMs) wie ChatGPT, Gemini, Deepseek und viele weitere haben eine Temperatur (beziehungsweise Temperature auf Englisch), die bestimmt, wie fantasievoll und kreativ oder zielgerichtet und faktisch (bzw. weniger zufällig) sie antworten.

Temperaturen werden meist zwischen 0 und 1 definiert, können aber auch noch höher gesetzt werden. Je höher die Temperatur, desto kreativer wird die KI in ihrer Wortwahl. Des bedeutet aber auch, dass Fakten weniger wichtig werden und bunte, bildliche Sprache in den Vordergrund rückt.

Um euch zu zeigen, wie ihr euch das am besten vorstellen könnt, habe ich ChatGPT ein paar mal denselben Prompt gegeben und nur die Temperatur angepasst.

Der Prompt:

Die Ergebnisse:

Ihr seht schon: Auf 0,0 sind die Ergebnisse faktisch und eher unkreativ, während eine Temperatur von 2,0 etwas künstlerischer und chaotisch wirkt.

Je nach Aufgabe und Themenbereich könnt ihr ab sofort also genau bestimmen, wie kreativ eure KI antwortet.

Welche Temperatur nutzt meine KI als Standard? Ganz so sicher können wir uns da leider nicht sein, da das oftmals nicht genau kommuniziert wird. Laut der University of Victoria war der Standard bei GPT 3.5 noch bei 0,7.

Viele gehen auch bei heutigen Modellen von einer Temperatur von 0,7 oder 0,8 aus. Das ist ist oftmals die perfekte Mischung aus faktisch korrekt und bildlichen Formulierungen.

Wieso heißt das Temperatur? Da die Antworten von LLMs hauptsächlich über Wahrscheinlichkeiten bestimmt werden, wird hier ein Begriff aus der Statistik verwendet.

So wie die Temperatur in der Physik die zufällige Bewegung von Teilchen beschreibt, steuert die Temperatur bei einem KI-Modell die Zufälligkeit seiner Wortwahl.

Zu guter Letzt gebe ich euch noch den obligatorischen Hinweis mit auf den Weg, dass selbst KIs mit einer Temperatur von 0,0 noch Fehler machen können. Vertraut der KI also nicht blind, nur weil ich die Temperatur nach unten dreht.