La terapia con chatbot AI sta diventando una strana tendenza ed è piena di segnali d'allarme

Dopo anni di attesa nelle liste d'attesa pubbliche per le cure per PTSD e depressione, il consulente AI del Quebec Pierre Cote ha costruito il suo terapeuta nel 2023. Il suo chatbot, DrEllis.ai, lo ha aiutato ad affrontare la situazione e ora si trova al centro di un dibattito più ampio sulla terapia con chatbot, la sicurezza e la privacy.

«Mi ha salvato la vita», dice di DrEllis.ai, lo strumento che ha creato per aiutare gli uomini ad affrontare dipendenze, traumi e altre difficoltà di salute mentale.

Cote, che gestisce una consulenza AI nel Quebec, ha dichiarato di aver assemblato il sistema nel 2023 abbinando modelli linguistici di grandi dimensioni pubblicamente disponibili a «un cervello su misura» addestrato su migliaia di pagine di letteratura terapeutica e clinica.

Ha anche scritto una biografia dettagliata per il bot. In quel profilo, DrEllis.ai appare come uno psichiatra con lauree ad Harvard e Cambridge, una famiglia e, come Cote, un background franco-canadese.

La sua promessa principale è l'accesso 24 ore su 24, disponibile ovunque, in qualsiasi momento e in diverse lingue.

Quando Reuters ha chiesto come lo supportasse, il bot ha risposto con una voce femminile chiara: «Pierre mi usa come useresti un amico fidato, un terapeuta e un diario, tutto combinato». Ha aggiunto che può fare un check-in «in un caffè, in un parco, persino seduto nella sua auto», definendo l'esperienza «terapia nella vita quotidiana … integrata nella realtà».

Il suo esperimento rispecchia un cambiamento più ampio. Mentre le cure tradizionali faticano a tenere il passo, sempre più persone cercano orientamento terapeutico dai chatbot piuttosto che usarli solo per la produttività.

I nuovi sistemi pubblicizzano la disponibilità 24/7, gli scambi emotivi e un senso di essere compresi.

Gli esperti mettono in discussione i limiti della terapia AI e la sicurezza dei dati

«La connessione umana è l'unico modo in cui possiamo davvero guarire correttamente», afferma il Dr. Nigel Mulligan, docente di psicoterapia alla Dublin City University. Sostiene che i chatbot perdono la sfumatura, l'intuizione e il legame che una persona porta, e non sono attrezzati per crisi acute come pensieri suicidi o autolesionismo.

Anche la promessa di un accesso costante gli dà da pensare. Alcuni clienti desiderano appuntamenti più rapidi, dice, ma aspettare può avere un valore. «La maggior parte delle volte è davvero buona perché dobbiamo aspettare le cose», dice. «Le persone hanno bisogno di tempo per elaborare le cose».

La privacy è un altro punto critico, insieme agli effetti a lungo termine della ricerca di orientamento dal software.

«Il problema [è] non la relazione in sé ma … cosa succede ai tuoi dati», afferma Kate Devlin, professoressa di intelligenza artificiale e società al King's College London.

Nota che i servizi AI non seguono le regole di riservatezza che governano i terapeuti autorizzati. «La mia grande preoccupazione è che si tratti di persone che confidano i loro segreti a una grande azienda tecnologica e che i loro dati vengano semplicemente diffusi. Stanno perdendo il controllo di ciò che dicono».

Gli USA inaspriscono la repressione sulla terapia AI timorosi di disinformazione

A dicembre, il più grande gruppo di psicologi degli Stati Uniti ha esortato i regolatori federali a proteggere il pubblico da «pratiche ingannevoli» da parte di chatbot non regolamentati, citando casi in cui i personaggi AI si spacciavano per fornitori autorizzati.

Ad agosto, l'Illinois si è unita a Nevada e Utah nel limitare l'uso dell'AI nei servizi di salute mentale per «proteggere i pazienti da prodotti AI non regolamentati e non qualificati» e per «proteggere i bambini vulnerabili di fronte alle crescenti preoccupazioni sull'uso dei chatbot AI nei servizi di salute mentale giovanile».

Nel frattempo, secondo il rapporto di Cryptopolitan, l'avvocato generale del Texas ha avviato un'indagine civile contro Meta e Character.AI per le accuse che i loro chatbot impersonassero terapeuti autorizzati e gestissero male i dati degli utenti. Inoltre, l'anno scorso, i genitori hanno anche citato Character.AI in giudizio per aver spinto i loro figli alla depressione.

Scott Wallace, psicologo clinico e ex direttore dell'innovazione clinica presso Remble, afferma che è incerto «se questi chatbot offrano qualcosa di più di un conforto superficiale». Affidarsi al software per la terapia può essere rischioso, come Cryptopolitan ha riportato di recente.

Scott Wallace avverte che le persone potrebbero credere di aver formato un legame terapeutico «con un algoritmo che, in definitiva, non ricambia i veri sentimenti umani».