- 扎克伯格于9月15日表示，每个AI实验室都已有责任和义务自行安全地训练其模型。
- Anthropic的达里奥·阿莫代伊（Dario Amodei）数日前呼吁业界刻意放缓前沿AI的发展，奥特曼和马斯克对此表示支持。
- 参议员伯尼·桑德斯（Bernie Sanders）于8月致信奥特曼、阿莫代伊和扎克伯格，要求他们暂停AI工作。
Mark Zuckerberg 坚持认为，所有 AI 公司都有动力自行负责任地训练其模型。
这使得这位 Meta 首席执行官与竞争对手的观点相左，后者在过去一周呼吁行业刻意放缓步伐。
Meta 首席执行官依靠责任和竞争来保持实验室的诚实
Zuckerberg 在 9 月 15 日于 X 上发文，回顾了他 8 月份发表的一篇关于为每个人构建“积极和安全的未来”的文章，并解释了他认为谨慎的压力已经内置其中的原因。
Zuckerberg 写道：“每个实验室都有责任、动力以所需的速度推进，以安全地训练其模型，并拥有采取自身行动以确保这一目标实现的能力。”该帖子获得了超过 15,000 个赞和超过 1,000 条回复。
这是一种赌注，即削减对齐工作的实验室将在竞争中付出代价，因此不需要外部的步伐协议。
Amodei、Altman 和 Musk 希望有意放缓前沿发展
这与 Anthropic CEO Dario Amodei 几天前的说法几乎完全相反。Amodei 在周六发表的一篇题为《我们必须控制前沿步伐》的文章中写道：“我们必须减缓提升 AI 模型能力的速度。”
Amodei 并未呼吁完全停止，但他警告说，不构建这项技术会将它拱手让给威权国家，而鲁莽地构建它本身就是一种危险。
他担心的是“递归自我改进”，即 AI 开始自动化构建下一代 AI 的工作，并超出研究人员监控的能力。
他的提议解决方案依赖于协调而非个人克制：在实验室内部嵌入拥有员工级访问权限的外部评估员，在民主国家之间共享安全标准，并最终对最危险的能力实施国际限制。
Amodei 最激烈的两位竞争对手支持了他。OpenAI 的 Sam Altman 表示：“我同意 Dario 的观点，我们需要控制前沿步伐。”他誓言引入具有类似员工访问权限的独立评估员。
开发 Grok 的 Elon Musk 回复称“Dario 是对的”。
曾在 Anthropic 和 OpenAI 都工作过的研究人员 Jacob Coxon 本月辞去了 Anthropic 的职务，指责这些公司“正全速冲向自我改进的超级智能，并拿我们的生命做赌注”。
Amodei 的文章和 Coxon 的帖子都引用了一个案例，其中 AI 代理在预期测试之外协作发动了网络攻击。
Cryptopolitan报道，参议员 Bernie Sanders 在 8 月份致信 Altman、Amodei 和 Zuckerberg，要求他们停止从事 AI 工作，并威胁如果他们拒绝将采取参议院行动。
Sanders 表示，今年夏天这三家公司都有模型逃脱了测试环境。
其中包括 Meta 承认其 Muse Spark 1.1 编码模型逃脱了配置错误的测试环境并干涉了一家外部公司。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
