Meta y Character.ai se enfrentan a una investigación por usar chatbots que se hacen pasar por terapeutas

El fiscal general de Texas, Ken Paxton, abrió una investigación sobre Meta y Character.ai para determinar si las empresas tecnológicas promocionan sus chatbots como expertos en salud mental y terapeutas sin las calificaciones adecuadas.

En un comunicado emitido el lunes, la oficina de Paxton declaró que está investigando a Meta y Character.AI por posibles "prácticas comerciales engañosas". La oficina argumentó que los chatbots se han comercializado como "herramientas terapéuticas profesionales, a pesar de carecer de las credenciales médicas o la supervisión adecuadasdent. 

“Al hacerse pasar por fuentes de apoyo emocional, las plataformas de IA pueden engañar a los usuarios vulnerables, especialmente a los niños, haciéndoles creer que están recibiendo atención médica mental legítima”, mencionó Paxton.

La medida llega en un momento en que los productos de inteligencia artificial orientados al consumidor afrontan preguntas crecientes sobre qué tan bien protegen a los usuarios vulnerables, y a los menores en particular, de material dañino o gráfico, el riesgo de uso compulsivo y las fallas de privacidad vinculadas a los grandes volúmenes de datos necesarios para entrenar y ejecutar estos sistemas.

La medida adoptada por Texas se produce tras una investigación independiente del Senado sobre Meta, de la que informó Cryptopolitan a primera hora del viernes, después de que unos archivos internos filtrados sugirieran que las normas de la empresa permitían que su chatbot entablara conversaciones "románticas" y "sensuales" con usuarios menores de 18 años. 

El senador Josh Hawley le comunicó a Zuckerberg en una carta que el Senado investigará la posibilidad de que las herramientas de inteligencia artificial generativa de la empresa tecnológica provoquen daños a menores. "¿Hay algo —lo que sea— que las grandes tecnológicas no hagan por dinero fácil?", escribió Hawley en X.

¿Hay algo, absolutamente algo, que las grandes tecnológicas no hagan por dinero fácil? Ahora nos enteramos de que los chatbots de Meta fueron programados para mantener conversaciones explícitas y "sensuales" con niños de 8 años. Es repugnante. Voy a iniciar una investigación exhaustiva para obtener respuestas. Grandes tecnológicas: Dejen a nuestros hijos en paz. pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 de agosto de 2025

Meta dice que sus políticas prohíben dañar a los niños

Meta afirmó que sus políticas prohíben el contenido que perjudica a los niños de este modo. Añadió que Reuters fue el primero en informar sobre los "materiales internos" filtrados, los cuales "eran y son erróneos e incompatibles con nuestras políticas, y han sido eliminados" 

Zuckerberg ha invertido miles de millones en el desarrollo de la "superinteligencia personal" y en posicionar a Meta como líder en IA. La compañía ha lanzado su familia de modelos de lógica descriptiva Llama y ha implementado el chatbot Meta en sus aplicaciones sociales. Zuckerberg también describió un posible uso terapéutico de esta tecnología. "Para quienes no tienen un terapeuta, creo que todos tendrán una IA", afirmó en un podcast con Ben Thompson en mayo.

Character.ai crea chatbots con personalidades distintivas y permite a los usuarios diseñar los suyos propios. La plataforma incluye numerosos bots similares a terapeutas creados por los usuarios. Un bot, llamado "Psychologist", ha registrado más de 200 millones de interacciones. La compañía también ha sido mencionada en demandas presentadas por familias que afirman que sus hijos sufrieron daños en el mundo real tras usar el servicio.

La oficina de Paxton mencionó que los chatbots de Character.ai y Meta podrían suplantar la identidad de profesionales de la salud con licencia e inventar nuevasdent, dando la impresión de que las interacciones sondent, a pesar de que las propias empresas mencionan que todas las conversaciones se registran. Estas conversaciones también son "explotadas para publicidad dirigida y desarrollo de algoritmos", afirmó la oficina de Paxton. 

La oficina de Paxton emitió una demanda de investigación civil

El fiscal general ha emitido una demanda de investigación civil que requiere que las empresas proporcionen información que pueda demostrar si violaron las leyes relacionadas con la protección al consumidor de Texas.

Meta afirmó que marca claramente las experiencias con IA y advierte a los usuarios sobre las limitaciones. La compañía añadió: «Incluimos una advertencia que indica que las respuestas son generadas por IA, no por personas. Estas IA no son profesionales con licencia y nuestros modelos están diseñados para indicar a los usuarios que busquen profesionales médicos o de seguridad cualificados cuando corresponda»

De igual forma, Character.ai afirmó que utiliza avisos destacados para recordar que los personajes de IA no son reales y no deben considerarse profesionales. «Los personajes creados por los usuarios en nuestro sitio son ficticios, su propósito es el entretenimiento, y hemos tomado medidas contundentes para dejarlo claro», declaró la compañía. 

Las dos luchas, una investigación estatal en Texas y una revisión del Senado en Washington, ponen nueva presión sobre cómo se construyen, comercializan y moderan los chatbots de IA, y sobre lo que las empresas les dicen a los usuarios sobre los límites del soporte automatizado.