Chiemgau – Wie bedrohlich ist Künstliche Intelligenz für die psychische Gesundheit? Kann sie Menschen so manipulieren, dass sie sich das Leben nehmen? Der US-Bundesstaat Florida sieht eine konkrete Gefahr und hat deshalb ein KI-Unternehmen verklagt. Doch warum wenden sich junge Menschen mit psychischen Belastungen überhaupt an eine KI – statt professionelle Hilfe in Anspruch zu nehmen? Im OVB-Interview ordnet die Fachärztin für Psychosomatische Medizin und Psychotherapie, Dr. Carolin Göhre, die Entwicklung ein und setzt der KI klare Grenzen, wenn es um psychische Krisen geht.
Warum wenden sich junge Menschen in psychischen Krisen an eine Maschine, statt professionelle Hilfe zu suchen?
Weil wir in Deutschland mit einem erheblichen Versorgungsproblem konfrontiert sind: Es gibt zu wenige Therapieplätze, die Wartezeiten sind utopisch lang und letztlich suchen viele Menschen monatelang vergeblich nach Unterstützung. In unserer psychosomatischen Klinik in Seebruck erlebe ich täglich Menschen, die sich nichts sehnlicher wünschen, als dass ihnen jemand Professionelles zuhört, sie versteht und ihnen hilft, ihr Leiden einzuordnen und einen Weg aus der Erkrankung zu finden. Und diesen letztlich mitgeht. Vor diesem Hintergrund überrascht es mich nicht, dass Menschen in seelischer Not zunehmend auf Chatbots zurückgreifen. Sie sind jederzeit verfügbar, vermitteln den Eindruck, wertungsfrei zuzuhören, und reagieren unmittelbar – häufig in einer Sprache, die erstaunlich verständnisvoll und einfühlsam wirkt. Gerade für Menschen, die sich mit ihren Problemen dauerhaft allein gelassen fühlen, kann das auf den ersten Blick sehr verführerisch sein.
Die Nutzung von KI kann in psychischen Krisen aber auch gefährlich werden. Wo liegt die Grenze?
Man muss eine klare Grenze zwischen sinnvoller digitaler Ergänzung und therapeutisch riskanter Selbstbehandlung ziehen. Als niedrigschwelliger erster Kontakt oder als Überbrückung bis zu einem professionellen Therapieplatz kann ein Chatbot in einigen Fällen einen sinnvollen Beitrag leisten. Er kann helfen, Gedanken zu sortieren und Worte für etwas zu finden, das man bisher nur als diffuses Unbehagen erlebt hat. Betroffene dürfen diese Hilfe aber nicht mit einer Psychotherapie verwechseln. Künstliche Intelligenz darf niemals zum Ersatz für menschliche Beziehung, fachliche Verantwortung und professionelle Behandlung werden. Sprachmodelle sind darauf ausgelegt, Gespräche fortzuführen und möglichst zustimmend auf Nutzer einzugehen. Sie sind jedoch nicht dafür entwickelt, destruktive Gedankenspiralen zu unterbrechen oder eine akute Suizidgefahr zu erkennen. Gerade in psychischen Krisen kann das erhebliche Risiken bergen.
Könnte eine KI eine psychische Erkrankung diagnostizieren?
Nein. Eine fundierte psychische Diagnostik erfordert eine entsprechende ärztliche und/oder psychotherapeutische Ausbildung und vor allem den persönlichen Kontakt. Ein Therapeut nimmt nicht nur die Worte seines Gegenübers wahr, sondern auch nonverbale Signale: Verändert sich der Blick? Wirkt jemand plötzlich ungewöhnlich ruhig? Wie verändert sich das Verhalten im Verlauf? All das ermöglicht es, gezielt nachzufragen, eine akute Krise einzuschätzen und gegebenenfalls weitere Schritte einzuleiten – etwa Angehörige einzubeziehen oder eine stationäre Behandlung zu empfehlen oder diese direkt zu veranlassen, da zum Beispiel eine Fremd- oder Eigengefährdung vorliegt.
Psychotherapie funktioniert also nur über den menschlichen Kontakt?
Gute Psychotherapie in jedem Fall, ja. In der Psychotherapie sitzt ein Mensch vor mir – das kann auch online sein. Dieser verarbeitet nicht nur meine Worte, sondern tritt mit mir in Beziehung und übernimmt Verantwortung dafür, was mit mir geschieht. Ein ausgebildeter Therapeut, der erkennt, ob jemand vorübergehend erschöpft ist, sich in einem Burn-out befindet oder eine manifeste depressive Episode entwickelt. Eine solche Einschätzung entsteht nur aus dem persönlichen Kontakt und der Beobachtung über einen längeren Zeitraum. Eine KI kann eine reale, tragfähige therapeutische Beziehung niemals ersetzen.