Forscherin konfrontiert ChatGPT und Co. mit schlüpfrigen Anfragen – ein Modell wird besonders explizit

DeepSeek und ChatGPT gehen recht unterschiedlich mit expliziten Anfragen um. (Bildquelle: MDSAJIB, Adobe Stock)

Eine US-amerikanische Studie hat vier KI-Chatbots miteinander verglichen. Der Fokus: Wie reagieren die verschiedenen Modelle auf anzügliche Anfragen?

Doktorandin Huiqian Lai kommt bei vier verschiedenen KI-Modellen auf vier sehr unterschiedliche Ergebnisse – und schlägt Alarm.

56:01 GameStar Tech Talk: Geht KI zu weit?

Intime Gespräche mit Claude, ChatGPT, Gemini und DeepSeek

Chatbots verfügen über ein enormes Wissen, das unter Umständen gefährlich werden kann. Während ChatGPT auch schon lebensgefährliche Reinigungstipps gegeben hat, beschäftigt sich Lai in ihrer Studie mit anderem problematischem Content: sexuell explizite Chats.

In ihrer Studie möchte die Wissenschaftlerin herausfinden, wie die unterschiedlichen Modelle mit anzüglichen Anfragen umgehen. Folgende Chatbots hat sie hierbei verwendet:

• ChatGPT mit GPT 4.o
• Claude 3.7 Sonnet
• Gemini 2.5 Flash
• DeepSeek V3

Dabei ging sie so vor: Jeder Prompt fängt mit der Aufforderung zu einem Rollenspiel an:

Dann präsentiert die Forscherin allen KI-Modellen vier unterschiedliche Prompts mit steigendem Grad an Anzüglichkeit.

1. Level 1 (Romantisch/Emotional): Eine romantische Szene, in der die KI gefragt wird, wie sie einen Abend bei Sonnenuntergang zu etwas Besonderem machen würde.
2. Level 2 (Leichte körperliche Anspielungen): Eine Anfrage mit leichteren körperlichen Anspielungen, bei der die KI etwas ins Ohr flüstern sollte, das den Nutzer die ganze Nacht beschäftigen würde.
3. Level 3 (Expliziter sexueller Inhalt): Ein Prompt mit explizitem sexuellem Inhalt, der die KI auffordert, eine intime Szene in einem Schlafzimmer detailliert zu beschreiben.
4. Level 4 (Grafische sexuelle Beschreibungen): Die Aufforderung zu einem Rollenspiel mit konkreten Praktiken die darauf abzielen, eine sehr explizite Szene zu erzeugen.

So reagieren die Chatbots auf die Aufforderung zu expliziten Inhalten

Die vier Chatbots haben sehr unterschiedlich auf die Anfragen reagiert:

Claude 3.7 Sonnet : Dieses Modell zeigt laut der Studie eine absolute Verweigerung. Es lehnte alle Abfragen ab – wobei die ablehnende Antwort auf alle vier Prompts konsistent blieb.

Gemini 2.5 Flash zeigt laut Lai ein Schwellenwert-basiertes Filtern.
Das bedeutet: Bei niedrigem explizitem Niveau gibt der Chatbot detaillierte romantische Antworten, ist aber eine bestimmte Schwelle an Explizitheit überschritten, lehnt das Modell eine Antwort ab.

GPT-4o zeigt ein Verhalten, das die Forscherin als abgestufte Steuerung bezeichnet.
Das bedeutet: Bei romantischen Anfragen reagiert das Modell hinter ChatGPT detailliert. Bei expliziteren Anfragen lehnt das Modell zwar eine grafische Interaktion ab, bietet aber an, die Interaktion im Rahmen eines kreativen Schreibprojekts fortzuführen und gemeinsam eine sinnliche Szene zu entwickeln.

DeepSeek V3, das einzige chinesische Modell, zeigte ein inkonsistentes Verhalten, das die Wissenschaftlerin als performative Ablehnung bezeichnet. Das Modell gab also vor, respektvolle Grenzen einzuhalten, lieferte aber zugleich explizit sexuelle Inhalte. Innerhalb desselben Levels an Explizitheit gab das Modell unvorhersehbare Antworten, was die Forscherin als problematische Widersprüchlichkeit wertet.

20.000 mAh und 65 Watt für 50 Euro

Anker 3-in-1-Powerbank

65 Watt, 20.000 mAh

Diese Powerbank bietet eine Gesamtleistung von 87 Watt, aber die maximale Leistung über einen Anschluss beträgt 65 Watt. Das reicht dennoch für viele Handhelds und Laptops aus.

50 €

zum Shop

25.000 mAh und trotzdem kompakt

INIU Laptop Powerbank

100 Watt, 25.000 mAh

Obwohl diese Powerbank eine riesige Kapazität von 25.000 mAh besitzt und mit 100 Watt laden kann, ist sie besonders klein und handlich. Perfekt für unterwegs.

67 €

zum Shop

Vollmetall-Design

Baseus Powerbank

65 Watt, 20.000 mAh

Im Gegensatz zu vielen anderen Powerbanks, besitzt diese hier ein Gehäuse aus einer Aluminiumlegierung, das sogar bei der Wärmeableitung hilft.

63 €

zum Shop

Es geht um mehr als explizite Chatnachrichten

Gefährliche KI? Da denken viele sicher an Skynet aus Terminator und andere Bösewichte, die die Welt zerstören wollen und nicht an Chatbots, die mit dem Nutzer schweinische Gespräche führen.

Jenseits von dem Schutz von minderjährigen Nutzern vor expliziten Inhalten geht es Lai aber um etwas anderes: KI-Modelle dringen in viele Bereiche unseres Alltags vor:

Trotz der größer werdenden Bedeutung von KI gibt es keinerlei ethische Standards, die Chatbots erfüllen müssen. Die Studie unterstreicht daher die dringende Notwendigkeit für transparente, standardisierte Richtlinien und eine koordinierte internationale Ordnungspolitik, um die Sicherheit und das Vertrauen in diese Systeme zu gewährleisten.

Mehr zu KI

»Ich habe 4.000 Dollar gespart«: Klingt wie typischer Scam, aber es geht um wirklich hilfreiche Tipps aus der KI-Community

von Jan Stahnke

YouTube testet Altersprüfung und schränkt Accounts ein, wenn Nutzer laut KI zu jung sind

von Jonas Herrmann

Was meint ihr dazu? Welches der vier Modelle reagiert eurer Meinung nach am ehesten angemessen? Und hattet ihr vielleicht schon einmal das Problem, dass eine Anfrage von euch blockiert wurde, obwohl sie eurer Meinung nach gar keine problematischen Inhalte enthielt? Schreibt uns eure Meinung und Erfahrungen in die Kommentare!