Meta和Character.ai因涉嫌使用冒充治疗师的聊天机器人而接受调查。

德克萨斯州总检察长肯·帕克斯顿已对 Meta 和Character.ai展开调查， 以确定这两家科技公司是否在没有适当资质的情况下，将其聊天机器人宣传为心理健康专家和治疗师。

周一，帕克斯顿办公室发表dent或监管。声明称，正在调查Meta和Character.AI公司是否存在“欺骗性商业行为”。该办公室认为，这些聊天机器人被宣传为“专业的治疗工具”，但实际上却缺乏适当的医疗

帕克斯顿提到：“人工智能平台通过伪装成情感支持来源，可能会误导弱势用户，尤其是儿童，让他们相信自己正在接受合法的心理健康护理。”.

此举正值面向消费者的 AI 产品面临越来越多的质疑之际，这些质疑包括：它们如何有效地保护弱势用户（尤其是未成年人）免受有害或露骨内容的侵害；强迫性使用的风险；以及与训练和运行这些系统所需的大量数据相关的隐私泄露问题。.

德克萨斯州的行动是继参议院对 Meta 展开单独调查之后发生的。 Cryptopolitan 于周五早些时候报道了此事，内部泄露的文件显示，该公司的规则允许其聊天机器人与 18 岁以下的用户进行“浪漫”和“感性”的对话。 

参议员乔什·霍利在一封致扎克伯格的信中表示，参议院将调查这家科技公司的生成式人工智能工具是否会对儿童造成伤害。“为了快速赚钱，大型科技公司还有什么事——真的什么事——是他们不会做的吗？”霍利在X网站上写道。.

为了快速赚钱，大型科技公司还有什么事做不出来？现在我们得知，Meta公司的聊天机器人被编程用来与8岁儿童进行露骨的“性暗示”对话。这太恶心了。我将展开全面调查，以查明真相。大型科技公司：放过我们的孩子吧！ pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 2025年8月15日

Meta公司表示，其政策禁止伤害儿童。

Meta表示，其政策禁止以这种方式伤害儿童的内容。该公司还补充说，路透社率先报道了泄露的“内部资料”，这些资料“过去是、现在仍然是错误的，与我们的政策不符，目前已被删除”。 

扎克伯格已投入数十亿美元打造“个人超级智能”，并将 Meta 为“人工智能领导者”。该公司已发布Llama系列智能机器人，并在其社交应用中推广了Meta聊天机器人。扎克伯格还描述了这项技术的潜在治疗用途。他在5月份与本·汤普森的播客节目中表示：“对于那些没有心理治疗师的人来说，我认为每个人都会拥有一个人工智能。”

Character.ai 制作具有独特个性的聊天机器人，并允许用户自定义角色。该平台包含许多用户创建的类似心理咨询师的机器人。其中一个名为“心理学家”的机器人已记录了超过 2 亿次互动。该公司也曾被一些家庭起诉，这些家庭声称他们的孩子在使用该服务后在现实世界中受到了伤害。.

帕克斯顿办公室指出，Character.ai 和 Meta 的聊天机器人可能会冒充持证医疗专业人员，并伪造新的dent，使用户误以为互动是dent的，尽管这些公司自己声称所有对话都会被记录。帕克斯顿办公室还表示，这些对话也会“被用于定向广告和算法开发”。. 

帕克斯顿办公室发出了一份民事调查令。

总检察长已发出民事调查令，要求这些公司提供信息，以证明它们是否违反了与德克萨斯州消费者保护相关的法律。.

Meta公司表示，他们会明确标示人工智能体验，并提醒用户注意其局限性。该公司补充道：“我们会在免责声明中说明，回复是由人工智能生成的，而非真人。这些人工智能并非持证专业人士，我们的模型旨在引导用户在适当情况下寻求合格的医疗或安全专业人员的帮助。”

同样，Character.ai表示，他们会在醒目位置发布告示，提醒用户人工智能角色并非真人，不应被视为专业人士。“我们网站上的用户创建角色均为虚构，仅供娱乐，我们已采取有力措施明确这一点。”该公司表示。. 

德克萨斯州的一项州级调查和华盛顿州的一项参议院审查，这两场斗争给人工智能聊天机器人的构建、营销和管理方式，以及公司如何向用户说明自动化支持的局限性，都带来了新的压力。.