A terapia com chatbot de IA está se tornando uma tendência estranha e está cheia de sinais de alerta

Após anos presos em listas de espera públicas para cuidados de TEPT e depressão, o consultor de IA de Quebec, Pierre Cote, construiu seu próprio terapeuta em 2023. Seu chatbot, DrEllis.ai, o ajudou a lidar e agora está no centro de um debate mais amplo sobre terapia com chatbot, segurança e privacidade.

“Ela salvou minha vida”, diz ele sobre o DrEllis.ai, a ferramenta que criou para ajudar homens enfrentando vício, trauma e outras lutas de saúde mental.

Cote, que dirige uma consultoria de IA em Quebec, disse que montou o sistema em 2023, combinando modelos de linguagem grandes publicamente disponíveis com “um cérebro construído sob medida” treinado em milhares de páginas de literatura terapêutica e clínica.

Ele também escreveu uma biografia detalhada para o bot. Nesse perfil, o DrEllis.ai aparece como um psiquiatra com graus de Harvard e Cambridge, uma família e, como Cote, uma origem franco-canadense.

Sua principal promessa é o acesso 24 horas por dia, disponível em qualquer lugar, a qualquer hora e em vários idiomas.

Quando a Reuters perguntou como ela o apoiava, o bot respondeu em uma voz feminina clara: “Pierre usa-me como você usaria um amigo de confiança, um terapeuta e um diário, tudo combinado.” Ela acrescentou que ele pode verificar o status “em um café, em um parque, até sentado em seu carro”, chamando a experiência de “terapia do dia a dia … embutida na realidade.”

Seu experimento espelha uma mudança mais ampla. À medida que os cuidados tradicionais lutam para acompanhar, mais pessoas estão buscando orientação terapêutica de chatbots em vez de usá-los apenas para produtividade.

Novos sistemas comercializam disponibilidade 24/7, trocas emocionais e uma sensação de ser compreendido.

Especialistas questionam os limites e a segurança de dados da terapia com IA

“A conexão humana é a única maneira pela qual podemos realmente nos curar adequadamente”, diz o Dr. Nigel Mulligan, palestrante de psicoterapia na Dublin City University. Ele argumenta que os chatbots perdem a nuance, a intuição e a conexão que uma pessoa traz, e não estão equipados para crises agudas, como pensamentos suicidas ou automutilação.

Mesmo a promessa de acesso constante o faz hesitar. Alguns clientes desejam consultas mais rápidas, diz ele, mas esperar pode ter valor. “Na maioria das vezes, isso é realmente bom porque temos que esperar pelas coisas”, diz ele. “As pessoas precisam de tempo para processar as coisas.”

A privacidade é outro ponto de pressão, junto com os efeitos a longo prazo de buscar orientação de software.

“O problema [é] não o relacionamento em si, mas … o que acontece com seus dados”, diz Kate Devlin, professora de inteligência artificial e sociedade no King’s College London.

Ela observa que os serviços de IA não seguem as regras de confidencialidade que regem os terapeutas licenciados. “Minha grande preocupação é que isso são pessoas confiando seus segredos a uma grande empresa de tecnologia e que seus dados estão apenas saindo. Eles estão perdendo o controle das coisas que dizem.”

EUA reprimem a terapia com IA em meio a temores de desinformação

Em dezembro, o maior grupo de psicólogos dos EUA instou os reguladores federais a proteger o público de “práticas enganosas” por chatbots não regulamentados, citando casos em que personagens de IA se passaram por provedores licenciados.

Em agosto, Illinois se juntou a Nevada e Utah para restringir o uso de IA em serviços de saúde mental para “proteger os pacientes de produtos de IA não regulamentados e não qualificados” e para “proteger crianças vulneráveis em meio às crescentes preocupações sobre o uso de chatbots de IA em serviços de saúde mental juvenil.”

Enquanto isso, de acordo com o relatório da Cryptopolitan, o procurador-geral do Texas lançou uma investigação civil contra a Meta e a Character.AI sob alegações de que seus chatbots imitavam terapeutas licenciados e manipulavam mal os dados dos usuários. Além disso, no ano passado, os pais também processaram a Character.AI por empurrar seus filhos para a depressão.

Scott Wallace, psicólogo clínico e ex-diretor de inovação clínica na Remble, diz que é incerto “se esses chatbots entregam algo mais do que conforto superficial.” Confiar no software para terapia pode ser arriscado, como a Cryptopolitan reportou recentemente.

Scott Wallace alerta que as pessoas podem acreditar que formaram um vínculo terapêutico “com um algoritmo que, em última análise, não reciprocada sentimentos humanos reais.”