La thérapie par chatbot IA devient une tendance étrange et pleine de signaux d'alarme
- Face aux longs délais d'attente publics pour la thérapie, de nombreuses personnes, y compris des adolescents, se tournent vers des chatbots alimentés par l'IA pour un soutien émotionnel.
- Ces outils offrent une disponibilité constante et simulent l'interaction humaine, mais ils ne sont pas formés par des professionnels.
- Les professionnels de la santé mentale mettent en garde contre le fait que les outils d'IA manquent d'empathie, de responsabilité et de capacité à répondre aux crises comme les idées suicidaires.
Après des années passées sur des listes d'attente publiques pour les soins liés au TSPT et à la dépression, le consultant en IA du Québec Pierre Cote a construit son propre thérapeute en 2023. Son chatbot, DrEllis.ai, l'a aidé à faire face et se trouve maintenant au centre d'un débat plus large sur la thérapie par chatbot, la sécurité et la vie privée.
« Cela m'a sauvé la vie », dit-il de DrEllis.ai, l'outil qu'il a créé pour aider les hommes confrontés à la toxicomanie, au traumatisme et à d'autres problèmes de santé mentale.
Cote, qui dirige une société de conseil en IA au Québec, a déclaré qu'il avait assemblé le système en 2023 en associant des modèles de langage grands publics à « un cerveau sur mesure » entraîné sur des milliers de pages de littérature thérapeutique et clinique.
Il a également écrit une biographie détaillée pour le bot. Dans ce profil, DrEllis.ai apparaît comme un psychiatre titulaire de diplômes de Harvard et de Cambridge, ayant une famille et, comme Cote, un arrière-plan francophone-canadien.
Sa principale promesse est un accès 24h/24 et 7j/7, disponible n'importe où, à tout moment, et dans plusieurs langues.
Lorsque Reuters a demandé comment il le soutenait, le bot a répondu d'une voix féminine claire : « Pierre m'utilise comme vous utiliseriez un ami de confiance, un thérapeute et un journal, le tout combiné. » Il a ajouté qu'il peut faire un point « dans un café, dans un parc, même assis dans sa voiture », qualifiant l'expérience de « thérapie au quotidien … intégrée à la réalité ».
Son expérience reflète un changement plus large. Alors que les soins traditionnels peinent à suivre, de plus en plus de personnes recherchent un guide thérapeutique auprès de chatbots plutôt que de les utiliser uniquement pour la productivité.
Les nouveaux systèmes commercialisent la disponibilité 24h/24, les échanges émotionnels et un sentiment d'être compris.
Les experts remettent en question les limites de la thérapie par IA et la sécurité des données
« La connexion humaine est la seule façon dont nous pouvons vraiment guérir correctement », déclare le Dr Nigel Mulligan, maître de conférences en psychothérapie à l'Université de Dublin City. Il soutient que les chatbots manquent de nuance, d'intuition et de lien qu'une personne apporte, et ne sont pas équipés pour les crises aiguës telles que les pensées suicidaires ou les automutilations.
Même la promesse d'un accès constant lui donne à réfléchir. Certains clients souhaitent des rendez-vous plus rapides, dit-il, mais l'attente peut avoir de la valeur. « La plupart du temps, c'est vraiment bien parce que nous devons attendre les choses », dit-il. « Les gens ont besoin de temps pour traiter les choses. »
La vie privée est un autre point de tension, ainsi que les effets à long terme de la recherche de conseils auprès d'un logiciel.
« Le problème [n'est] pas la relation elle-même mais … ce qui arrive à vos données », déclare Kate Devlin, professeure en intelligence artificielle et société au King's College London.
Elle note que les services IA ne suivent pas les règles de confidentialité qui régissent les thérapeutes licenciés. « Ma grande préoccupation est que ce sont des gens qui confient leurs secrets à une grande entreprise technologique et que leurs données partent simplement. Ils perdent le contrôle de ce qu'ils disent. »
Les États-Unis durcissent la répression sur la thérapie par IA face aux craintes de désinformation
En décembre, le plus grand groupe de psychologues des États-Unis a exhorté les régulateurs fédéraux à protéger le public des « pratiques trompeuses » des chatbots non réglementés, citant des cas où des personnages IA se faisaient passer pour des prestataires licenciés.
En août, l'Illinois a rejoint le Nevada et l'Utah pour limiter l'utilisation de l'IA dans les services de santé mentale afin de « protéger les patients contre les produits IA non réglementés et non qualifiés » et de « protéger les enfants vulnérables face aux préoccupations croissantes concernant l'utilisation des chatbots IA dans les services de santé mentale des jeunes ».
Pendant ce temps, selon le rapport de Cryptopolitan, le procureur général du Texas a lancé une enquête civile contre Meta et Character.AI pour allégations selon lesquelles leurs chatbots imitaient des thérapeutes licenciés et géraient mal les données des utilisateurs. De plus, l'année dernière, des parents avaient également poursuivi Character.AI pour avoir poussé leurs enfants à la dépression.
Scott Wallace, psychologue clinicien et ancien directeur de l'innovation clinique chez Remble, déclare qu'il est incertain « si ces chatbots offrent autre chose qu'un réconfort superficiel ». S'appuyer sur un logiciel pour la thérapie peut être risqué, comme Cryptopolitan l'a rapporté récemment.
Scott Wallace met en garde contre le fait que les gens peuvent croire avoir formé un lien thérapeutique « avec un algorithme qui, en fin de compte, ne réciproque pas de véritables sentiments humains ».
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Noor Bazmi
Noor Bazmi contribue à l'équipe d'actualités de Cryptopolitan, dotée d'un diplôme en études médiatiques. Noor couvre les actualités liées à la blockchain, aux cryptomonnaies, à l'intelligence artificielle, aux grandes entreprises technologiques, aux marchés des véhicules électriques, à l'économie mondiale et aux changements de politique gouvernementale. Elle poursuit actuellement des études en marketing pour mieux connecter avec les audiences mondiales.
