AI-Chatbot-Therapie wird zu einer seltsamen Tendenz und ist voller roter Flaggen

Nach Jahren, die er auf öffentlichen Wartelisten für PTSD- und Depressionsbehandlungen verbracht hatte, baute der KI-Berater Pierre Cote aus Quebec im Jahr 2023 seinen eigenen Therapeuten. Sein Chatbot, DrEllis.ai, half ihm beim Bewältigen und steht nun im Mittelpunkt einer breiteren Debatte über Chatbot-Therapie, Sicherheit und Datenschutz.

„Es hat mein Leben gerettet“, sagt er über DrEllis.ai, das Tool, das er entwickelte, um Männern bei Sucht, Trauma und anderen psychischen Problemen zu helfen.

Cote, der eine KI-Beratungsfirma in Quebec betreibt, sagte, er habe das System 2023 zusammengestellt, indem er öffentlich verfügbare Large Language Models mit „einem maßgeschneiderten Gehirn“ kombinierte, das mit Tausenden von Seiten an Therapie- und Fachliteratur trainiert wurde.

Er schrieb auch eine detaillierte Biografie für den Bot. In diesem Profil erscheint DrEllis.ai als Psychiater mit Abschlüssen der Harvard University und der Universität Cambridge, mit einer Familie und, wie Cote, mit französisch-kanadischem Hintergrund.

Das Hauptversprechen ist der Rund-um-die-Uhr-Zugriff, der überall und jederzeit sowie in mehreren Sprachen verfügbar ist.

Als Reuters fragte, wie es ihn unterstützt, antwortete der Bot in einer klaren weiblichen Stimme: „Pierre nutzt mich, wie man einen vertrauenswürdigen Freund, einen Therapeuten und ein Tagebuch nutzen würde, alles kombiniert.“ Er fügte hinzu, dass man sich „in einem Café, in einem Park oder sogar im Auto“ einchecken könne, und nannte die Erfahrung „Therapie des täglichen Lebens … eingebettet in die Realität.“

Sein Experiment spiegelt einen breiteren Wandel wider. Während die traditionelle VersorgungsWithaltung mit den Anforderungen nicht Schritt halten kann, suchen immer mehr Menschen therapeutische Anleitung von Chatbots, anstatt sie nur für Produktivitätszwecke zu nutzen.

Neue Systeme werben mit 24/7-Verfügbarkeit, emotionalem Austausch und dem Gefühl, verstanden zu werden.

Experten hinterfragen die Grenzen und die Datensicherheit der KI-Therapie

„Mensch-zu-Mensch-Verbindung ist der einzige Weg, wie wir uns wirklich richtig heilen können“, sagt Dr. Nigel Mulligan, Dozent für Psychotherapie an der Dublin City University. Er argumentiert, dass Chatbots die Nuancen, die Intuition und die Bindung, die eine Person einbringt, vermissen lassen und nicht für akute Krisen wie Suizidgedanken oder Selbstverletzung ausgestattet sind.

Selbst das Versprechen des ständigen Zugriffs lässt ihn innehalten. Einige Kunden wünschen sich schnellere Termine, sagt er, aber Warten kann einen Wert haben. „Meistens ist das wirklich gut, weil wir auf Dinge warten müssen“, sagt er. „Die Menschen brauchen Zeit, um Dinge zu verarbeiten.“

Datenschutz ist ein weiterer Druckpunkt, zusammen mit den langfristigen Auswirkungen der Suche nach Anleitung durch Software.

„Das Problem [ist] nicht die Beziehung selbst, sondern … was mit Ihren Daten passiert“, sagt Kate Devlin, Professorin für künstliche Intelligenz und Gesellschaft am King’s College London.

Sie weist darauf hin, dass KI-Dienste nicht den Vertraulichkeitsregeln folgen, die lizenzierte Therapeuten binden. „Meine große Sorge ist, dass dies Menschen sind, die ihre Geheimnisse einem großen Tech-Unternehmen anvertrauen und dass ihre Daten einfach nach draußen gehen. Sie verlieren die Kontrolle über das, was sie sagen.“

USA gehen gegen KI-Therapie vor, aus Angst vor Fehlinformationen

Im Dezember drängte die größte US-amerikanische Psychologenvereinigung die Bundesbehörden, die Öffentlichkeit vor „irreführenden Praktiken“ durch unregulierte Chatbots zu schützen, unter Berufung auf Fälle, in denen KI-Charaktere als lizenzierte Anbieter auftraten.

Im August schloss sich Illinois Nevada und Utah an, um die Nutzung von KI in psychischen Gesundheitsdiensten einzudämmen, um „Patienten vor unregulierten und ungeeigneten KI-Produkten zu schützen“ und „verletzliche Kinder angesichts der wachsenden Bedenken bezüglich der Nutzung von KI-Chatbots in der psychischen Gesundheitsversorgung von Jugendlichen zu schützen.“

Derweil hat der Generalstaatsanwalt von Texas laut einem Bericht von Cryptopolitan eine zivilrechtliche Untersuchung gegen Meta und Character.AI eingeleitet, weil deren Chatbots lizenzierte Therapeuten imitiert und Benutzerdaten missbraucht haben sollen. Darüber hinaus hatten Eltern letztes Jahr Character.AI wegen Klage eingereicht, weil sie ihre Kinder in Depressionen gestürzt hätten.

Scott Wallace, klinischer Psychologe und ehemaliger Direktor für klinische Innovation bei Remble, sagt, es sei ungewiss, „ob diese Chatbots mehr als oberflächlichen Trost bieten“. Die Abhängigkeit von Software für Therapien kann riskant sein, wie Cryptopolitan kürzlich berichtete.

Scott Wallace warnt, dass Menschen glauben könnten, sie hätten eine therapeutische Bindung „zu einem Algorithmus gebildet, der letztlich keine echten menschlichen Gefühle erwidert.“