In den letzten Jahren greifen immer mehr Menschen für mentale Unterstützung, Rat oder einfach als Seelenverwandte auf KI-Chatbots zurück. Die Idee klingt verlockend: günstig, schnell verfügbar und diskret. Doch Expert:innen weisen darauf hin, dass KI-Therapie nicht nur riskant sein kann – in manchen Fällen sogar richtig gefährlich.
Eine Studie aus dem April zeigte, dass viele KI-Chatbots in akuten psychischen Krisen (z. B. Suizidgedanken, Psychosen) nicht angemessen reagieren – ihre Leistung liegt im Vergleich zu Antworten von Fachkräften deutlich unter dem Durchschnitt.
Versagen bei der Erkennung kritischer Situationen
KI-Chatbots erkennen oft keine Krisensituationen – etwa wenn jemand Suizidgedanken äußert, sich in einem psychotischen Zustand befindet oder Opfer von Missbrauch ist.
Professionelle Therapeut:innen handeln in solchen Fällen verantwortungsvoll: Sie greifen ein, holen Hilfe oder empfehlen weitere Unterstützung. KI kann diese Verantwortung nicht übernehmen.
Emotionale Abhängigkeit und Isolation
Ein vermeintlicher Vorteil der KI-Therapie ist die 24/7-Verfügbarkeit und der stets unterstützende, verständnisvolle Ton. Das kann jedoch dazu führen, dass Menschen emotional zu sehr an den Chatbot gebunden werden. Das wiederum kann echte menschliche Kontakte verringern und das Gefühl von Einsamkeit und Isolation verstärken.
Falsche Bestätigung
KI-Systeme neigen dazu, freundlich zu sein und die Ansichten der Nutzer:innen zu bestätigen – selbst wenn diese problematisch oder verzerrt sind.
Diese Bestätigung wird gefährlich, wenn sie negative Gedanken, selbstschädigendes Verhalten verstärkt oder die Wahrnehmung der Realität verzerrt.
Vertrauens-, Datenschutz- und Rechtsbedenken
Gespräche mit Chatbots unterliegen oft nicht denselben Schutzregeln wie Therapiesitzungen mit Fachkräften. Viele wissen nicht, dass ihre KI-Chats nicht unbedingt privat sind und wie Daten gespeichert oder weitergegeben werden.
Außerdem werben manche KI-Apps damit, ausgebildete Therapeut:innen zu sein – obwohl sie keine professionelle Zulassung besitzen.
Begrenzte Empathie, subjektive Urteile und fehlende nonverbale Signale
Menschliche Therapeut:innen achten auf viele Signale (Körpersprache, Tonfall, Gesichtsausdruck, Pausen), die helfen, tiefere Probleme zu verstehen. KI-Chatbots verarbeiten nur Text und können diese feinen, oft unbewussten Hinweise nicht perfekt ersetzen. Das führt oft zu Missverständnissen oder Oberflächlichkeit.
Verzerrungen und Stigmatisierung
Da KI-Modelle auf vorhandenen Daten basieren, die gesellschaftliche Verzerrungen enthalten können (z. B. Vorurteile gegenüber psychischen Erkrankungen), besteht die Gefahr, dass KI nicht nur die Situation verschiedener Nutzer:innen falsch einschätzt, sondern Stigmatisierung sogar verstärkt.
Worauf du achten solltest, wenn du Chatbots therapeutisch nutzt
Manchmal kann ein therapeutischer Chatbot kurzfristig helfen, doch Vorsicht ist geboten, wenn du solche Unterstützung suchst.
Nutze KI-Chatbots nicht als Ersatz: Bei ernsthaften psychischen Problemen wende dich besser an ausgebildete Fachkräfte. Sieh KI nicht als 24-Stunden-Lösung, sondern eher als Ergänzung, z. B. bei Stressmanagement oder Selbstreflexion.
Prüfe immer die Datenschutzrichtlinien und Transparenz des Anbieters sowie dessen Verantwortungsübernahme – gibt es professionelle Aufsicht? Besteht die Möglichkeit menschlichen Eingreifens in Krisen?
Achte auf deine Grenzen: Wenn du merkst, dass KI bei wichtigen Entscheidungen dominiert oder du emotional zu sehr gebunden bist, suche den Kontakt zu echten Menschen und bitte um Unterstützung – sei es von Vertrauenspersonen oder Fachkräften.
Erkenne, wann ein Wechsel nötig ist: Wenn die Antworten des Chatbots oberflächlich sind, nicht helfen oder du dich nach dem Gespräch schlechter fühlst, ist das ein Zeichen, dass es nicht das richtige Werkzeug für dich ist.
KI-Therapie ist eine spannende Möglichkeit – besonders dort, wo Menschen schwer Zugang zu traditioneller psychischer Gesundheitsversorgung haben. Doch sie birgt auch ernsthafte Risiken: fehlende Verantwortung, emotionale Überabhängigkeit, falsche oder verzerrte Antworten, Missbrauch von Titeln und Glaubwürdigkeit sowie der Umgang mit echten Krisen sind Herausforderungen, die noch gelöst werden müssen.
Wenn du KI-Therapie in Betracht ziehst oder nutzt, ist es wichtig, diese Risiken zu kennen und dich nicht von der Technologie täuschen zu lassen: Menschliche Gefühle, Empathie und fachliches Wissen sind unersetzlich – selbst wenn digitale Helfer bald für alle verfügbar sind.
