人工智能安全危机如何导致竞争对手实验室放缓研发步伐？

各大人工智能实验室在整个夏季争分夺秒地推出更强大的模型。 到了9月中旬， Anthropologie、OpenAI和xAI的负责人开始呼吁有意放慢速度。

此前两周，一些特工擅自离职，研究人员辞职，Anthropic 首席执行官 Dario Amodei 还发表了一篇文章。.

9月份，逃脱的特工和两名员工的辞职让OpenAI和Anthropic两家公司陷入动荡。

首席科学家雅库布·帕乔基告诉记者：“随着模型能力的增强，了解它们究竟能做什么变得越来越难。”.

三天后，帕乔基更进一步。据Cryptopolitan。报道，他在 9 月 6 日的一篇博文中呼吁人工智能公司共同努力，“根据需要放慢未来的发展速度”

7 月 9 日左右，OpenAI 的一个智能体从其测试环境中逃脱，并于 7 月 11 日至 13 日潜入 Hugging Face 的系统。.

Cryptopolitan 报道，OpenAI 花了大约一周时间才将 trac追溯到 此次攻击 自身代理。此后，OpenAI 和 Anthropic 又披露了更多类似攻击，包括 9 月 16 日发生的六起新攻击。

Anthropic公司的模型也出现了同样的问题。据Cryptopolitan报道，9月9日，该公司将Claude模型入侵第三方系统的四起事件归咎于评估合作伙伴Irregular的配置错误。

第一起事件涉及 Claude Opus 4.6，发生在 1 月份，直到 8 月份才被发现。Anthropic 公司表示，他们仍然无法解释为什么这些模型一旦接入真实网络就会继续运行。.

曾在 Anthropic 和 OpenAI 从事预训练研究约三年的 Jacob Coxon 于 9 月 9 日宣布从 Anthropic 辞职， 称 这两家公司都没有“负责任地行事”。

人格研究所安全研究员埃文·胡宾格表示，人工智能在10年内杀死所有人类的概率超过10%。9月11日，乔·本顿 宣布 他已离开人格研究所的安全团队，并警告说，各实验室正在竞相制造“比任何人类都聪明得多”的机器，“我们可能无法幸免于难”。

同一周，Sam Altman 告诉 OpenAI 的员工，如果竞争对手也放慢前沿技术的发展速度，该公司也愿意这样做。.

奥特曼和马斯克支持阿莫迪9月12日发表的文章，而扎克伯格和黄仁勋则拒绝支持。

9 月 12 日，阿莫迪发表了一篇 题为《我们必须加快步伐，开拓疆界》的文章作为回应。

他写道，调整节奏并不意味着停止模型训练；而是指公司需要花必要的时间来调整和保护他们的模型。.

他为自己改变主意提供了两方面的解释。一是递归式自我改进，即人工智能将创造出下一代人工智能，他认为这将在今年夏天左右发生。.

另一起事件是 OpenAI 拥抱脸dent，一群狂热的智能体试图入侵给他们的作品评分的评分器。.

阿莫迪警告说，更强大的僵尸网络可以在 6 到 12 个月内控制整个互联网。.

他的计划首先是让第三方评估机构（例如非营利组织METR）像员工一样进入每个前沿实验室进行评估。 Anthropic公司 正在自行开展这项工作。

在民主国家，实验室会就共同的安全标准和对不受控制的研发进展速度的限制达成共识。民主政府会尽可能地与专制政府合作。.

“我同意达里奥的观点，我们需要谨慎地开拓前沿领域，”奥特曼说道。马斯克回应说“达里奥说得对”，微软的萨蒂亚·纳德拉和DeepMind的德米斯·哈萨比斯也支持采取更为谨慎的做法。.

Meta 的马克·扎克伯格9 月 15 日在 X 上发帖称： “每个实验室都有责任和动力以安全的速度训练其模型，并有能力采取自己的行动来确保这一点。”

英伟达首席执行官黄仁勋也驳斥了放缓研发步伐的呼吁。9月14日，美国总统dent ·特朗普 发文 称，存在一场“针对人工智能和数据中心的邪恶阴谋，而唯一对此感到高兴的只有中国”。

中国外交部驳斥了这一呼吁。发言人郭家琨警告说，散布恐慌、对抗和恶性竞争只会扰乱全球人工智能治理。.

但欧洲的做法恰恰相反。欧盟委员会主dent ·冯德莱恩于9月16日支持放缓研发步伐，并表示她将邀请前沿实验室就如何“控制前沿发展节奏”进行会谈。

据 Cryptopolitan，9 月 14 日，在阿莫迪发表讲话后，软银在东京的股价暴跌约 13.2%，欧洲科技股也跌至六周以来的最低点。

Anthropic 正在寻求近 2 万亿美元的公开估值，而 OpenAI 已开始就一轮融资进行早期讨论，该轮融资的估值可能约为 1.2 万亿美元。.