La terapia con chatbots de IA se está convirtiendo en una tendencia extraña y está llena de señales de alarma

Después de años estancado en listas de espera públicas para el cuidado de TEPT y depresión, el consultor de IA de Quebec Pierre Cote construyó su propio terapeuta en 2023. Su chatbot, DrEllis.ai, le ayudó a hacer frente y ahora se encuentra en el centro de un debate más amplio sobre la terapia con chatbots, la seguridad y la privacidad.

“Me salvó la vida”, dice sobre DrEllis.ai, la herramienta que creó para ayudar a los hombres que enfrentan adicción, trauma y otras luchas de salud mental.

Cote, que dirige una consultora de IA en Quebec, dijo que ensambló el sistema en 2023 combinando modelos de lenguaje grandes de acceso público con “un cerebro construido a medida” entrenado en miles de páginas de literatura terapéutica y clínica.

También escribió una biografía detallada para el bot. En ese perfil, DrEllis.ai aparece como un psiquiatra con títulos de Harvard y Cambridge, una familia y, al igual que Cote, un origen franco-canadiense.

Su promesa principal es el acceso las 24 horas del día, disponible en cualquier lugar, en cualquier momento y en varios idiomas.

Cuando Reuters preguntó cómo lo apoyaba, el bot respondió con una voz femenina clara: “Pierre me usa como usarías a un amigo de confianza, un terapeuta y un diario, todo combinado”. Añadió que puede hacer un seguimiento “en un café, en un parque, incluso sentado en su coche”, calificando la experiencia como “terapia de la vida diaria … integrada en la realidad”.

Su experimento refleja un cambio más amplio. A medida que los cuidados tradicionales luchan por mantenerse al día, más personas están buscando orientación terapéutica de chatbots en lugar de usarlos solo para la productividad.

Los nuevos sistemas comercializan la disponibilidad 24/7, intercambios emocionales y una sensación de ser comprendido.

Los expertos cuestionan los límites y la seguridad de los datos de la terapia con IA

“La conexión humana es la única forma en que realmente podemos sanar adecuadamente”, dice el Dr. Nigel Mulligan, profesor de psicoterapia en la Universidad de la Ciudad de Dublín. Argumenta que los chatbots pierden el matiz, la intuición y el vínculo que una persona aporta, y no están equipados para crisis agudas como pensamientos suicidas o autolesiones.

Incluso la promesa de acceso constante le hace dudar. Algunos clientes desean citas más rápidas, dice, pero esperar puede tener valor. “La mayoría de las veces eso es realmente bueno porque tenemos que esperar por las cosas”, dice. “La gente necesita tiempo para procesar las cosas”.

La privacidad es otro punto de presión, junto con los efectos a largo plazo de buscar orientación del software.

“El problema [no es] la relación en sí, sino … qué sucede con tus datos”, dice Kate Devlin, profesora de inteligencia artificial y sociedad en el King’s College London.

Ella señala que los servicios de IA no siguen las reglas de confidencialidad que rigen a los terapeutas licenciados. “Mi gran preocupación es que esto es gente confiando sus secretos a una gran empresa tecnológica y que sus datos simplemente se están escapando. Están perdiendo el control de las cosas que dicen.”

EE. UU. endurece la represión contra la terapia con IA ante los temores de desinformación

En diciembre, el mayor grupo de psicólogos de EE. UU. instó a los reguladores federales a proteger al público de “prácticas engañosas” por parte de chatbots no regulados, citando casos en los que los personajes de IA se hacían pasar por proveedores licenciados.

En agosto, Illinois se unió a Nevada y Utah para restringir el uso de la IA en los servicios de salud mental con el objetivo de "proteger a los pacientes de productos de IA no regulados y no cualificados" y de "proteger a los niños vulnerables ante las crecientes preocupaciones por el uso de chatbots de IA en los servicios de salud mental juvenil".

Mientras tanto, según el informe de Cryptopolitan, el fiscal general de Texas lanzó una investigación civil contra Meta y Character.AI por alegaciones de que sus chatbots suplían a terapeutas licenciados y manejaban mal los datos de los usuarios. Además, el año pasado, los padres también demandaron a Character.AI por empujar a sus hijos a la depresión.

Scott Wallace, psicólogo clínico y ex director de innovación clínica en Remble, dice que es incierto “si estos chatbots ofrecen algo más que consuelo superficial”. Confiar en el software para la terapia puede ser arriesgado, como Cryptopolitan informó recientemente.

Scott Wallace advierte que las personas pueden creer que han formado un vínculo terapéutico "con un algoritmo que, en última instancia, no corresponde a los sentimientos humanos reales".