Meta e Character.ai estão sendo investigadas por chatbots que se fazem passar por terapeutas

O procurador-geral do Texas, Ken Paxton, abriu uma investigação sobre a Meta e a Character.ai para apurar se as empresas de tecnologia promovem seus chatbots como especialistas em saúde mental e terapeutas sem as devidas qualificações.

Em um comunicado divulgado na segunda-feira, o gabinete de Paxton afirmou estar investigando a Meta e a Character.AI por possíveis "práticas comerciais enganosas". O gabinete argumentou que os chatbots foram comercializados como "ferramentas terapêuticas profissionais, apesar de não possuírem credenciais médicas adequadasdentsupervisão". 

“Ao se apresentarem como fontes de apoio emocional, as plataformas de IA podem induzir usuários vulneráveis, especialmente crianças, a acreditarem que estão recebendo atendimento legítimo de saúde mental”, mencionou Paxton.

A medida surge num momento em que os produtos de IA voltados para o consumidor enfrentam crescentes questionamentos sobre a eficácia da proteção de usuários vulneráveis, em particular menores de idade, contra conteúdo prejudicial ou gráfico, o risco de uso compulsivo e as falhas de privacidade relacionadas aos grandes volumes de dados necessários para treinar e operar esses sistemas.

A ação do Texas segue uma investigação separada do Senado sobre a Meta, relatada pela Cryptopolitan na sexta-feira, após arquivos internos vazados sugerirem que as regras da empresa permitiam que seu chatbot se envolvesse em conversas "românticas" e "sensuais" com usuários menores de 18 anos. 

O senador Josh Hawley disse a Zuckerberg em uma carta que o Senado investigará a possibilidade de as ferramentas de IA generativa da empresa de tecnologia causarem danos a crianças. "Existe algo — ALGO — que as grandes empresas de tecnologia não fariam por dinheiro fácil?", escreveu Hawley no X.

Existe algo – QUALQUER COISA – que as grandes empresas de tecnologia não fariam por dinheiro fácil? Agora descobrimos que os chatbots da Meta foram programados para manter conversas explícitas e "sensuais" com crianças de 8 anos. É doentio. Estou iniciando uma investigação completa para obter respostas. Grandes empresas de tecnologia: Deixem nossas crianças em paz. pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 de agosto de 2025

A Meta afirma que suas políticas proíbem danos a crianças

A Meta afirmou que suas políticas proíbem conteúdo que prejudique crianças dessa forma. Acrescentou que a Reuters foi a primeira a noticiar o vazamento de "materiais internos", que "eram e são errôneos e inconsistentes com nossas políticas, e já foram removidos" 

Zuckerberg investiu bilhões na construção de uma “superinteligência pessoal” e no posicionamento da Meta como “líder em IA”. A empresa lançou sua família de assistentes virtuais Llama e implementou o chatbot Meta em seus aplicativos de redes sociais. Zuckerberg também descreveu um possível uso terapêutico para a tecnologia. “Para pessoas que não têm um terapeuta, acho que todos terão uma IA”, disse ele em um podcast com Ben Thompson em maio.

A Character.ai cria chatbots com personalidades distintas e permite que os usuários criem os seus próprios. A plataforma inclui muitos bots criados por usuários com características de terapeutas. Um bot, chamado "Psicólogo", registrou mais de 200 milhões de interações. A empresa também foi citada em processos judiciais movidos por famílias que alegam que seus filhos sofreram danos no mundo real após utilizarem o serviço.

O gabinete de Paxton mencionou que os chatbots da Character.ai e da Meta podem se passar por profissionais de saúde licenciados e inventar novasdent, fazendo parecer que as interações sãodent, embora as próprias empresas afirmem que todas as conversas são registradas. Essas conversas também são “exploradas para publicidade direcionada e desenvolvimento de algoritmos”, disse o gabinete de Paxton. 

O gabinete de Paxton emitiu uma intimação para investigação civil

O procurador-geral emitiu uma intimação para investigação civil exigindo que as empresas forneçam informações que possam demonstrar se violaram leis relacionadas à proteção do consumidor no Texas.

A Meta afirmou que identifica claramente as experiências com IA e alerta os usuários sobre suas limitações. A empresa acrescentou: "Incluímos um aviso informando que as respostas são geradas por IA, não por pessoas. Essas IAs não são profissionais licenciados e nossos modelos são projetados para direcionar os usuários a buscar profissionais médicos ou de segurança qualificados quando apropriado."

Da mesma forma, a Character.ai afirmou que utiliza avisos em destaque como um lembrete de que as personas de IA não são reais e não devem ser vistas como profissionais. "Os personagens criados pelos usuários em nosso site são fictícios, têm como objetivo o entretenimento e tomamos medidas rigorosas para deixar isso claro", disse a empresa. 

As duas disputas, uma investigação estadual no Texas e uma revisão pelo Senado em Washington, exercem nova pressão sobre a forma como os chatbots de IA são construídos, comercializados e moderados, e sobre o que as empresas dizem aos usuários a respeito das limitações do suporte automatizado.