OpenAI 的 Sam Altman 呼吁限制人工智能竞赛，因为国家行为体劫持了 Anthropologie 用于生物武器。

OpenAI 的员工本周被告知，该人工智能实验室将考虑放缓其在最前沿人工智能领域的研究步伐。Sam Altman 也向包括 Anthropic 在内的其他人工智能竞争对手提出了同样的建议。Anthropic 在一份报告中也承认了人工智能开发存在的风险，该报告披露，与国家机构有关联的科学家曾试图利用其 Claude 模型进行生物武器研究。. 

OpenAI表示，出于安全考虑，他们已经暂停了一些内部训练运行，并简化了部分模型开发流程。.

两家公司不断放出消息，这些披露信息的接连出现，加剧了关于该行业在公开募股之前是否进展过快的争论。

奥特曼为何想要减缓人工智能的发展速度？

OpenAI 首席执行官 Sam Altman 在一次公司全体会议上告知与会者，该人工智能实验室以及其他同意的实验室可以放慢前沿模型的发布速度。.

据彭博社援引消息人士的话称，由于此类安排具有自愿性质，奥特曼承认并非所有公司都会接受该计划。.

这种怀疑并非没有dent。三年前，也就是2023年3月，埃隆·马斯克、史蒂夫·沃兹尼亚克和其他1000多人签署了一封公开信，要求暂停高级人工智能研究六个月。.

正如当时媒体报道的那样，各实验室实际上并没有遵守他们共同同意的暂停令。

OpenAI首席科学家Jakub Pachocki在9月6日的一篇博文中也提出了人工智能风险的担忧，他呼吁人工智能公司协调“根据需要放慢未来的发展速度”。Pachocki表示希望，自愿放慢发展速度“能够成为常态，直到建立起共同的安全标准”。

7月，奥特曼表示他曾向白宫官员反映需要限制人工智能的发展。此前，奥特曼还与人性化组织首席执行官达里奥·阿莫迪共同签署了一份 简短声明， 宣称人工智能构成社会层面的灭绝风险。

人工智能模型能否用于制造生物武器？

人工智能模型已经发展到可能用于生物武器研究的阶段。就在本周，OpenAI 宣称其模型已经解决了纳维-斯托克斯方程，尽管这一结论存在争议。.

9 月 10 日发布的154 页威胁情报报告为这场辩论提供了新的素材。该报告详细描述了研究人员试图利用克劳德的能力来支持其生物武器研究的五个案例。

人类学研究所表示，来自“不受支持地区”的这些尝试试图绕过地域限制并掩盖其工作目的。该研究所称已关闭相关账户，但未指明任何国家或机构。.

人工智能的风险是否已经超过了其带来的益处？

这些报道发布之际，实验室内部也爆发了一系列公开的恐慌。9月8日，研究员雅各布·考克森辞职，并 指责OpenAI和Anthropic公司 “拿我们的生命做赌注”，称同事们认为这项技术“可能在本十年末毁灭我们所有人”，并警告说人类将在2030年灭绝。

他的帖子获得了超过1.5亿次的浏览量。两天后，9月10日，Anthropic和谷歌旗下DeepMind的前员工也表达了类似的担忧，并呼吁提高透明度。.

7 月下旬的一份请愿书，旨在建立一种减缓开发速度的机制，该请愿书获得了来自各大人工智能公司 1000 多名员工的签名。.

OpenAI目前正敦促国会制定强制性的、基于能力的安全性规则，涵盖测试、dent 评估、网络安全和dent 报告。“人工智能加速发展的前景需要的不仅仅是自愿承诺，”首席全球事务官克里斯·莱恩写道。.

加州率先行动：州长加文·纽森于周三签署了 SB 813 和 AB 1405 法案，以及一项旨在防范人工智能生物威胁的配套法案 AB 1864。.

在华盛顿，参议员伯尼·桑德斯提出了一项法案，旨在暂停高级人工智能并禁止人工智能超级智能。 他告诉英国广播公司 ，无视科学家的警告会使人变成“白痴”。

唐纳德·特朗普dent 反驳说，他周四表示，他担心“如果我们不能赢得人工智能，我们将处于非常糟糕的境地”。