Keine Erwachsenenunterhaltung in ChatGPT: OpenAI legt gerade das nächste Feature auf Eis

OpenAI stellt die Pläne für einen Erotik-Chatbot auf unbestimmte Zeit zurück. (© OpenAI / Christian Agbede via Unsplash)

OpenAI hat die lange kursierenden Pläne für einen »Adult Mode« in ChatGPT bis auf Weiteres auf Eis gelegt. Dies bestätigte das Unternehmen gegenüber der Financial Times.

Intern lief das Projekt unter dem Codenamen »Citron« und sollten erwachsenen Nutzern explizit romantische und sexuelle Chats mit ChatGPT ermöglichen.

Als Begründung gab das Unternehmen an, langfristige Forschung zu den Auswirkungen von sexuellen Inhalten und emotionalen Bindungen an KI-Systeme betreiben zu wollen, bevor eine Produktentscheidung getroffen werde
OpenAI räumte diesbezüglich auch ein, dass es bislang »keine belastbare empirische Evidenz« zu diesen Effekten gebe.

1:10 DLSS 5 im Trailer: KI macht jetzt Spiele schöner? Nvidia zeigt, wie Gaming-Grafik in Zukunft aussehen soll

Autoplay

Das mutmaßliche Ende eines von Anfang an umstrittenen Projekts

Der Erotik-Chatbot war demnach intern und extern eines der umstrittensten Projekte von OpenAI. Mitarbeiter und Investoren warnten laut der Financial Times, dass sexualisierte KI-Inhalte ungesunde emotionale Abhängigkeiten fördern und Minderjährige mit problematischen Darstellungen in Kontakt bringen könnten.

Die hauseigenen »Wellbeing«-Berater von OpenAI sollen sich nach einem Bericht des Wall Street Journal einstimmig gegen das Feature ausgesprochen haben.
Ein ehemaliger leitender Mitarbeiter sagte der Financial Times indes, er habe das Unternehmen unter anderem deshalb verlassen: »KI sollte nicht deine Freunde oder deine Familie ersetzen; du brauchst menschliche Beziehungen.«

Auch auf Investorenseite herrschte Skepsis: Mehrere Geldgeber sahen laut dem FT-Bericht ein ungünstiges Verhältnis zwischen Ertrag und Risiko. Gleichzeitig stehe OpenAI unter wachsendem juristischen Druck: Familien von Teenagern haben Klagen eingereicht, die ChatGPT für psychische Schäden bis hin zum Tod ihrer Kinder verantwortlich machen.

Auch technische Probleme spielten eine Rolle

Die ethischen Fragen für den Moment außen vor gelassen: OpenAI hatte in diesem Kontext auch mit technischen Problemen zu kämpfen.

Das Unternehmen entwickelte für den »Adult Mode« ein Altersvorhersage-System, das anhand von Nutzersignalen einschätzen soll, ob eine Person volljährig ist.
Interne Tests ergaben jedoch, dass das System dem Wall Street Journal zufolge Minderjährige in mehr als 10 Prozent der Fälle fälschlich als Erwachsene einstufte.

Hinzu kommt die Trainingsfrage: Modelle, die bisher konsequent auf das Vermeiden sexueller Inhalte getrimmt wurden, mussten für den Adult Mode quasi »umlernen«: ChatGPT sollte hier explizite Inhalte generieren, dabei aber strafbare Themen wie Missbrauch zuverlässig erkennen und blockieren.

Laut der Financial Times erwies sich diese Trennung in der Praxis als schwierig, was letzten Endes wohl zum mindestens vorläufigen Aus aller »Ab 18«-Pläne von ChatGPT führte.