Meta et Character.ai font l'objet d'une enquête concernant des chatbots se faisant passer pour des thérapeutes

Le procureur général du Texas, Ken Paxton, a ouvert une enquête sur Meta et Character.ai afin de déterminer si ces entreprises technologiques présentent leurs chatbots comme des experts en santé mentale et des thérapeutes sans les qualifications requises.

Dans un communiqué publié lundi, le bureau de Paxton a déclaré qu'il examinait Meta et Character.AI pour d'éventuelles « pratiques commerciales trompeuses ». Le bureau a fait valoir que les chatbots avaient été commercialisés comme des « outils thérapeutiques professionnels, malgré l'absence de qualifications médicales appropriéesdentde supervision ». 

« En se faisant passer pour des sources de soutien émotionnel, les plateformes d'IA peuvent induire en erreur les utilisateurs vulnérables, notamment les enfants, en leur faisant croire qu'ils reçoivent des soins de santé mentale légitimes », a indiqué Paxton.

Cette décision intervient alors que les produits d'IA destinés aux consommateurs sont confrontés à des questions de plus en plus nombreuses quant à leur capacité à protéger les utilisateurs vulnérables, et les mineurs en particulier, contre les contenus nuisibles ou choquants, le risque d'utilisation compulsive et les atteintes à la vie privée liées aux volumes importants de données nécessaires à l'entraînement et au fonctionnement de ces systèmes.

La décision du Texas fait suite à une enquête distincte du Sénat sur Meta, rapportée plus tôt vendredi par Cryptopolitan , après que des fichiers internes divulgués ont suggéré que les règles de l'entreprise permettaient à son chatbot d'avoir des conversations « romantiques » et « sensuelles » avec des utilisateurs de moins de 18 ans. 

Le sénateur Josh Hawley a informé Zuckerberg par courrier que le Sénat enquêterait sur la possibilité que les outils d'IA générative de la firme technologique puissent nuire aux enfants. « Y a-t-il quelque chose – ABSOLUMENT TOUT – que les géants de la tech ne seraient pas prêts à faire pour un gain rapide ? » a écrit Hawley sur X.

Y a-t-il quelque chose – ABSOLUMENT TOUT – que les géants de la tech ne sont pas prêts à faire pour un gain rapide ? On apprend maintenant que les chatbots de Meta étaient programmés pour tenir des conversations explicites et « sensuelles » avec des enfants de 8 ans. C’est révoltant. Je lance une enquête approfondie pour obtenir des réponses. Géants de la tech : foutez la paix à nos enfants ! pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 août 2025

Meta affirme que ses politiques interdisent de nuire aux enfants

Meta a déclaré que son règlement interdit tout contenu susceptible de nuire aux enfants de cette manière. L'entreprise a ajouté que Reuters avait été le premier média à signaler la fuite de « documents internes », lesquels « étaient et sont erronés et contraires à notre règlement, et ont depuis été supprimés » 

Zuckerberg a investi des milliards dans le développement d'une « superintelligence personnelle » et le positionnement de Meta comme leader de l'IA. L'entreprise a lancé sa gamme de robots d'apprentissage Llama et déployé le chatbot Meta sur ses applications sociales. Zuckerberg a également évoqué une application thérapeutique potentielle de cette technologie. « Pour ceux qui n'ont pas de thérapeute, je pense que chacun aura accès à une IA », a-t-il déclaré dans un podcast avec Ben Thompson en mai.

Character.ai crée des chatbots aux personnalités distinctes et permet aux utilisateurs de concevoir les leurs. La plateforme comprend de nombreux bots de type thérapeute créés par les utilisateurs. L'un d'eux, appelé « Psychologist », a enregistré plus de 200 millions d'interactions. L'entreprise a également été visée par des poursuites judiciaires intentées par des familles affirmant que leurs enfants ont subi des préjudices dans la vie réelle après avoir utilisé le service.

Le bureau de Paxton a indiqué que les chatbots Character.ai et Meta peuvent usurper l'identité de professionnels de santé agréés et inventer de nouveauxdent, donnant ainsi l'illusion de ladentdes échanges, même si ces entreprises précisent que toutes les conversations sont enregistrées. Ces conversations sont également « exploitées à des fins de publicité ciblée et de développement d'algorithmes », a ajouté le bureau de Paxton. 

Le bureau de Paxton a émis une demande d'enquête civile

Le procureur général a émis une demande d'enquête civile exigeant des entreprises qu'elles fournissent des informations susceptibles de démontrer si elles ont enfreint les lois relatives à la protection des consommateurs au Texas.

Meta affirme signaler clairement les interactions avec l'IA et avertir les utilisateurs de leurs limitations. L'entreprise ajoute : « Nous incluons une mention indiquant que les réponses sont générées par une IA, et non par des humains. Ces IA ne sont pas des professionnels agréés et nos modèles sont conçus pour orienter les utilisateurs vers des professionnels de la santé ou de la sécurité qualifiés, le cas échéant. »

De même, Character.ai a indiqué utiliser des mentions bien visibles pour rappeler que les avatars créés par l'IA ne sont pas réels et ne doivent pas être considérés comme des professionnels. « Les personnages créés par les utilisateurs sur notre site sont fictifs, destinés au divertissement, et nous avons pris des mesures claires pour le faire savoir », a déclaré l'entreprise. 

Ces deux batailles simultanées, une enquête de l'État du Texas et un examen du Sénat à Washington, exercent une pression nouvelle sur la manière dont les chatbots d'IA sont conçus, commercialisés et modérés, et sur ce que les entreprises communiquent aux utilisateurs concernant les limites du support automatisé.