KI-Chatbot-Therapie entwickelt sich zu einem seltsamen Trend und ist voller Warnsignale

Nachdem er jahrelang auf öffentlichen Wartelisten für die Behandlung von PTBS und Depressionen festgesessen hatte, entwickelte der KI-Berater Pierre Cote aus Quebec im Jahr 2023 seinen eigenen Therapeuten. Sein Chatbot DrEllis.ai half ihm, mit der Situation umzugehen, und steht nun im Mittelpunkt einer breiteren Debatte über Chatbot-Therapie, Sicherheit und Datenschutz.

„Es hat mir das Leben gerettet“, sagt er über DrEllis.ai, das Tool, das er entwickelt hat, um Männern zu helfen, die mit Sucht, Traumata und anderen psychischen Problemen zu kämpfen haben.

Cote, der in Quebec eine KI-Beratungsfirma leitet, sagte, er habe das System im Jahr 2023 zusammengestellt, indem er öffentlich verfügbare große Sprachmodelle mit einem „maßgeschneiderten Gehirn“ kombinierte, das mit Tausenden von Seiten Therapie- und klinischer Literatur trainiert wurde.

Er verfasste außerdem eine ausführliche Biografie für den Bot. In diesem Profil wird DrEllis.ai als Psychiater mit Abschlüssen von Harvard und Cambridge, einer Familie und, wie Cote, einem französisch-kanadischen Hintergrund dargestellt.

Das Hauptversprechen besteht in der ständigen Verfügbarkeit – jederzeit, überall und in mehreren Sprachen.

Auf von Reuters , wie der Bot ihn unterstütze, antwortete er mit klarer Frauenstimme: „Pierre nutzt mich wie einen vertrauten Freund, einen Therapeuten und ein Tagebuch – alles zusammen.“ Weiter hieß es, er könne sich „in einem Café, im Park, sogar im Auto“ einloggen, und bezeichnete das Erlebnis als „Therapie im Alltag … eingebettet in die Realität“.

Sein Experiment spiegelt einen umfassenderen Wandel wider. Da die traditionelle Gesundheitsversorgung mit dieser Entwicklung kaum noch Schritt halten kann, suchen immer mehr Menschen therapeutische Unterstützung bei Chatbots, anstatt sie nur zur Produktivitätssteigerung zu nutzen.

Neue Systeme versprechen Verfügbarkeit rund um die Uhr, emotionalen Austausch und das Gefühl, verstanden zu werden.

Experten hinterfragen die Grenzen der KI-Therapie und die Datensicherheit

„Nur durch den direkten Kontakt zwischen Menschen können wir wirklich heilen“, sagt Dr. Nigel Mulligan, Dozent für Psychotherapie an der Dublin City University. Er argumentiert, dass Chatbots die Nuancen, die Intuition und die Bindung, die ein Mensch mitbringt, vermissen lassen und für akute Krisen wie Suizidgedanken oder Selbstverletzung nicht gerüstet sind.

Selbst das Versprechen ständiger Erreichbarkeit lässt ihn zögern. Manche Klienten wünschten sich schnellere Termine, sagt er, aber Warten könne auch von Vorteil sein. „Meistens ist das sogar gut, denn wir müssen ja warten“, sagt er. „Die Leute brauchen Zeit, um Dinge zu verarbeiten.“

Der Datenschutz stellt einen weiteren Kritikpunkt dar, ebenso wie die langfristigen Auswirkungen der Orientierung an Software.

„Das Problem ist nicht die Beziehung an sich, sondern … was mit Ihren Daten passiert“, sagt Kate Devlin, Professorin für künstliche Intelligenz und Gesellschaft am King's College London.

Sie merkt an, dass KI-Dienste nicht dendentunterliegen, die für approbierte Therapeuten gelten. „Meine größte Sorge ist, dass Menschen hier ihre Geheimnisse einem großen Technologiekonzern anvertrauen und ihre Daten einfach so weitergegeben werden. Sie verlieren die Kontrolle über das, was sie sagen.“

USA gehen gegen KI-Therapie vor – aus Angst vor Fehlinformationen

Im Dezember forderte der größte US-amerikanische Psychologenverband die Bundesbehörden auf, die Öffentlichkeit vor „irreführenden Praktiken“ unregulierter Chatbots zu schützen, und verwies dabei auf Fälle, in denen KI-Charaktere sich als lizenzierte Anbieter ausgaben.

Im August schloss sich Illinois Nevada und Utah an, um den Einsatz von KI in der psychischen Gesundheitsversorgung einzuschränken, um „Patienten vor unregulierten und unqualifizierten KI-Produkten zu schützen“ und um „gefährdete Kinder angesichts der wachsenden Besorgnis über den Einsatz von KI-Chatbots in der psychischen Gesundheitsversorgung von Jugendlichen zu schützen“

Unterdessen hat der Generalstaatsanwalt von Texas laut Cryptopolitanvon einem Bericht eine zivilrechtliche Untersuchung gegen Meta und Character.AI eingeleitet. Hintergrund sind Vorwürfe, deren Chatbots hätten sich als lizenzierte Therapeuten ausgegeben und Nutzerdaten missbräuchlich verwendet. Bereits im letzten Jahr hatten Eltern Character.AI verklagt , weil das Unternehmen ihre Kinder in Depressionen getrieben habe.

Scott Wallace, klinischer Psychologe und ehemaliger Leiter der klinischen Innovation bei Remble, sagt, es sei ungewiss, „ob diese Chatbots mehr als oberflächlichen Trost spenden“. Sich in der Therapie auf Software zu verlassen, kann riskant sein, wie Cryptopolitan kürzlich berichtete.

Scott Wallace warnt davor, dass Menschen glauben könnten, eine therapeutische Bindung „zu einem Algorithmus aufgebaut zu haben, der letztendlich keine echten menschlichen Gefühle erwidert“