#79 AI Therapists: Hoffnungsträger oder Risiko?

Kann ein Algorithmus Trost spenden? Und was passiert, wenn Menschen beginnen, einer KI ihre intimsten Gedanken anzuvertrauen? Triggerwarnung: In dieser Folge sprechen wir über Suizid und schwere psychische Krisen. Wenn dich das Thema belastet, überspringe diese Episode oder höre sie nicht allein. Hilfsangebote findest du weiter unten. AI-Therapeuten versprechen Unterstützung ohne Wartezeit, ohne Bewertung, 24/7 verfügbar. In einer Zeit, in der Therapieplätze knapp sind und psychische Krisen zunehmen, klingt das wie eine echte Hoffnung. Doch was bedeutet es, wenn emotionale Bindungen zu KI-Chatbots entstehen? Wenn ein Bot in einer Krise reagiert – oder eben nicht richtig reagiert? Und wer trägt Verantwortung, wenn aus digitaler Unterstützung potenziell gefährlicher Rat wird? In dieser Episode sprechen wir über AI-Therapeuten zwischen Hoffnungsträger und Risiko. Wir beleuchten den Eliza-Effekt, diskutieren reale Erfahrungen – wie die Geschichte von Christa – und fragen uns: Ist KI-Therapie eine sinnvolle Überbrückung, eine Ergänzung zur klassischen Therapie oder eine gefährliche Illusion? Links https://99percentinvisible.org/episode/the-eliza-effect/ https://www.psychologytoday.com/us/blog/psych-unseen/202511/when-ai-chatbots-encourage-violence https://en.wikipedia.org/wiki/Deaths_linked_to_chatbots https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate https://www.tagesschau.de/wirtschaft/digitales/openai-scarlett-johansson-stimme-100.html https://www.theguardian.com/lifeandstyle/2024/mar/02/can-ai-chatbot-therapists-do-better-than-the-real-thing Chapters 00:00 Triggerwarnung & warum dieses Thema uns alle betrifft 01:31 Wenn der Therapeut ein Algorithmus ist 02:55 Der Eliza-Effekt: Warum wir Maschinen Gefühle zuschreiben 05:00 Christas Geschichte: Zwischen Trost und Täuschung 06:57 „Ich kann dich einfach löschen“ – Kontrolle, Macht und Sicherheit 08:46 24/7 Hilfe ohne Wartezimmer – das große Versprechen 10:27 Wenn KI in psychischen Krisen falsch reagiert 13:47 Systemische Risiken: Wer trägt Verantwortung? 16:31 Emotionale Bindung an Bots – unterschätzte Dynamik? 21:53 Ergänzung oder Ersatz? Die Zukunft der Therapie 25:42 Offene Fragen: Was wir (noch) nicht wissen Hilfsangebote Wenn dich die Themen dieser Folge persönlich betreffen oder du dich in einer akuten Krise befindest, kannst du dich anonym und kostenlos an folgende Stellen wenden: Egal ob ärztlicher Notdienst (Bereitschaftsdienst), Arztsuche oder Terminvereinbarung: Sie finden hier alle Services der 116117. TelefonSeelsorge Deutschland: 0800 111 0 111 oder 0800 111 0 222Online-Chat und weitere Informationen unter www.telefonseelsorge.de Im Notfall: 112 Für Jugendliche: Nummer gegen Kummer 116 111