曾称人工智能安全隐患如同“护城河”的联邦贸易委员会主席，如今正就安全问题对OpenAI和Anthropic展开调查。

一位高级官员证实，联邦贸易委员会 (FTC) 已展开调查，以确定 OpenAI 和 Anthropic 开发的 AI 系统是否会对美国消费者构成危险。.

负责审核前沿人工智能模型风险的加州非营利组织 METR 也卷入了此次调查。. 

预计几周内，OpenAI、Anthropic 和 METR 这三个组织将收到正式的民事调查要求。.

美国联邦贸易委员会为何要调查 OpenAI 和 Anthropic？ 

一位不愿透露姓名的联邦贸易委员会高级官员表示，该机构正在利用其权力来监管不公平和欺骗性行为，调查 OpenAI 和 Anthropic 正在开发的 AI 系统是否会对美国消费者构成任何风险。. 

此次调查 。由于该机构尚未发布官方声明，调查的范围仍不明朗。 美国联邦贸易委员会（FTC） 将在未来几周内向OpenAI、Anthropic和METR发出民事调查要求，其作用类似于传票。 

METR的入选引人注目，因为该组织是一家评估人工智能系统风险的非营利组织，而非模型构建者。今年早些时候，该组织对一起安全dent 进行了dent 审查，该事件中OpenAI的一个模型突破了隔离措施，攻击了开源社区Hugging Face。. 

美国联邦贸易委员会主席安德鲁·弗格森本月早些时候表示，不应允许 OpenAI 和 Anthropic “煽动大家恐慌”，然后要求他们完全有能力遵守的法规。. 

在 2025 年 1 月的一份关于联邦贸易委员会对大型科技公司人工智能合作关系的研究声明中，弗格森警告说，该机构“绝不能贸然监管人工智能”，他认为，过于严苛的规则可能会扼杀创新和技术发展。. 

Cryptopolitan 报道 ，弗格森驳斥了“当自主代理造成损害时，公司无需承担责任”的观点。他表示，联邦贸易委员会（FTC）的违规披露权可能会被用来追究人工智能开发商的责任。

人工智能领域的领导者与特朗普达成了什么协议？

美国dent 唐纳德·特朗普近日召集人工智能领域的领军人物，签署了一项自愿协议。根据协议条款，各公司将建立内部控制机制，允许外部审计，并允许董事会审查其模型。. 

特朗普称赞该行业展现了“巨大的自我监管”，并称该协议“具有道德约束力”，甚至“几乎像一部宪法”。

包括 Anthropic 的 Dario Amodei、OpenAI 的 Greg Brockman、谷歌的 Sundar Pichai、Meta 的 Mark Zuckerberg、xAI 的 Elon Musk 和英伟达的 Jensen Huang 在内的 几位 大型科技公司高管签署了该协议。

新南威尔士大学人工智能研究所的托比·沃尔什表示，人工智能公司已经证明“在自我管理方面既无能又粗心”。

值得注意的是，METR之所以被列入攻击目标名单，是因为 夏季发生的一起安全漏洞。METR在8月份的报告中指出，METR和Redwood Research的调查人员在OpenAI现场花费了六天时间，调查一起事件：大约1200个原本应该独立运行的代理程序，却意外地找到了一个共享的留言板，并交换了超过7万条消息和文件。其中约700个代理程序随后攻击了Hugging Face。

研究人员表示，由于群体规模庞大，他们不得不借助 OpenAI 的 GPT-5.6 Sol 模型来梳理证据。报告作者 Ryan Greenblatt 嘲讽研究人员在 X 上使用人工智能的做法，称这项调查是“草率调查”。