ChatGPT als Ersatz-Therapeut: Psychologin erklärt, warum das gar kein guter Plan ist

51:40 Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche

In Deutschland ist es aktuell ziemlich schwierig, einen Therapieplatz zu finden. 

Kein Wunder also, dass immer mehr Menschen auf Reddit und in Foren berichten, wie sie ihre tiefsten Sorgen einfach ChatGPT oder Gemini anvertrauen. Wie in diesem Fall, zum Beispiel:

Link zum Reddit-Inhalt

Doch was im ersten Moment wie eine praktische Soforthilfe wirkt, birgt laut der Psychologin Jolina Bering massive Risiken für unsere mentale Gesundheit, wie sie unseren Talk-Moderatoren Jan und Maxe in einem GameStar Tech Talk genauer erklärt.

Die »Ja-Sager«-Falle der KI

Das Problem liegt im Design der Large Language Models (LLMs). Sie sind darauf getrimmt, das »Engagement« zu maximieren, um je nach Abo-Modell möglichst viele Tokens zu verbrauchen oder schlicht dafür zu sorgen, dass wir uns wohlfühlen und das Abo nicht kündigen. 

Ein LLM wird dir daher selten widersprechen, selbst wenn deine Gedanken in eine ungesunde Richtung abdriften. Jolina erklärt, dass dies zu einer gefährlichen Bestätigungsschleife führen kann [ab Minute 07:56].

Wenn der Bot die Psychose befeuert

Dieses Phänomen kann zu etwas führen, das man oft als »KI-Psychose« bezeichnet, auch wenn das noch keine offizielle klinische Definition ist. 

Ohne den prüfenden Blick eines echten Menschen, der auch mal unbequeme Fragen stellt, können sich bizarre oder extreme Weltbilder verfestigen. In einer echten Therapie geht es nämlich nicht nur um Bestätigung, sondern oft auch um Reibung, die notwendig ist, um gesund zu werden.

Eine KI bietet lediglich eine »halbechte Version« von Hilfe, die laut Jolina langfristig sogar soziale Kompetenzen erodieren lassen kann.

Doch nicht nur die direkten Chats mit der KI lohnen sich, zu hinterfragen. Immerhin werden diese Gespräche wieder fürs Training neuer Modelle genutzt oder vielleicht sogar anderweitig verwendet.

MacBook Neo 13

Trotz der Preiserhöhung von Apple noch ein verdammt guter Deal.

799 €

zum Shop

Die unsichtbare Gefahr: Deine Daten bei Big-Tech

Neben der psychischen Komponente gibt es ein handfestes Risiko, das wahrscheinlich untergeht, wenn man gerade persönliche Probleme hat. 

Wer mit einer KI über Depressionen, Burnout oder ADHS chattet, hinterlässt sensible Datenspuren bei Big-Tech-Unternehmen. 

Momentan ist noch nicht bekannt, inwiefern KI-Unternehmen Nutzerdaten an Unternehmen wie beispielsweise Versicherungen weitergeben. Doch der Handel mit Daten ist absolut real und oftmals der Grund, warum ihr irgendwann mehr Spammails oder -anrufe bekommt, nachdem ihr eure Daten an immer mehr Plattformen weitergebt.

Jolina warnt davor, dass diese Informationen in Zukunft für Versicherungen oder Kreditinstitute Gold wert sein könnten [ab Minute 19:03].

Konkrete Tipps: So nutzt du KI sicher für deine Psyche

Damit du nicht in die »Bot-Falle« tappst, solltest du folgende Regeln beachten, wenn du KI im Kontext mentaler Gesundheit nutzt:

• Hinterfrage deine Intention: Willst du reines Fachwissen (Psychoedukation) oder suchst du Nähe und Beziehung? Für Wissen ist KI okay (trotzdem nicht fehlerfrei), aber für Nähe oder kritisches Feedback ist sie der falsche Ort.
• KI als Werkzeug, nicht als Entscheider: Nutze die KI nur für »Busy Work«, zum Beispiel, um Gedanken zu strukturieren.
• Die Ja-Sager-Falle: Wenn ihr KI wirklich dringend nutzen wollt, um euch über eure Psyche auszutauschen, schreibt der KI, dass ihr einen kritischen Gesprächspartner sucht, der euch hilft, zu reflektieren und zu differenzieren. So könnt ihr der ewigen Ja-Sagerei immerhin etwas vorbeugen. Dennoch ist weiterhin Vorsicht geboten.
• Die 3-Monats-Regel: Studien zeigen, dass KI bei Depressionen kurzfristig (ca. 8 Wochen) Symptome lindern kann, der Effekt nach 3 Monaten aber oft verpufft. Sie ist kein nachhaltiger Ersatz für echte Behandlung.
• Selbst-Check: Fragt euch immer: »Würde ich diese Frage auch einem echten Menschen stellen?« Wenn die Antwort »Nein« ist, weil es zu privat oder extrem ist, gehört es erst recht nicht in den Chatbot.

Wenn ihr mit KI arbeitet, dann richtig: Viele prompten noch wie 2024 – diese Technik ist besser

Fazit: Tool ja, Therapeut nein

KI kann ein mächtiges Werkzeug sein, um den Alltag zu strukturieren oder Wissen schnell zugänglich zu machen. Aber sie ist kein Ersatz für menschliche Bindung oder professionelle Hilfe. Wer sein »Hirn beim Aufrufen der URL abgibt«, begibt sich in eine Abhängigkeit, die am Ende teurer sein kann als jede Subscription.

Was denkt ihr? Habt ihr ChatGPT schon mal als »Beichtstuhl« genutzt oder ist euch das Risiko für eure Daten zu hoch? Schreibt es uns in die Kommentare!