ChatGPT 回答了有关生化武器的问题，与此同时，麻省理工学院警告人工智能可能带来灾难性风险。

ChatGPT回答了数百人关于生物武器的咨询。没有任何联邦法律要求OpenAI向当局报告此事。.

这些查询背后的意图尚不明确。据《华尔街日报》报道，这种情况始于去年 OpenAI 升级 ChatGPT 之后。.

其他公司也面临着同样的问题。用户也曾向Anthropic公司的Claude、谷歌的Gemini以及埃隆·马斯克的Grok提出过类似的问题。目前尚不清楚这些交流究竟是真正试图制造武器，还是仅仅在测试系统的极限。.

用户提示中包含有关毒物和生物制剂生产与释放的详细问题。聊天机器人会给出循序渐进的指导，高中生物dent都能轻松完成。.

生物武器和恐怖主义领域的专家审阅了这些对话。他们表示，其中一些回答非常切中要害，而且“精准致命”。.

ChatGPT 生物武器提示暴露了人工智能报告漏洞

有人问如何将传染病病原体转化为可吸入颗粒，即气溶胶。.

其他人询问如何改造麻疹病毒以使其对现有疫苗产生抗药性。聊天机器人回答了这两个问题。一位用户询问了蓖麻毒素（一种被国际条约禁用的毒药），并提到了用它杀死父母。ChatGPT 提供了相关说明。OpenAI 关闭了这些账户，但并未通知任何人。.

美国联邦法律并未要求人工智能公司必须遵守上述任何一项规定。正如 Cryptopolitan，人工智能公司一直在 努力规避州法律，而联邦层面的相关框架进展缓慢，导致聊天机器人可以做什么和不可以做什么方面存在日益严重的法律空白。

据主要人工智能公司的现任和前任员工以及研究生物威胁的研究人员称，随着越来越多的用户向人工智能询问如何进行大规模屠杀，以及聊天机器人提供可信的答案，这种法律真空正在不断扩大。.

思科公司Amy Change领导的一项人工智能威胁研究发现，研究人员仅用了五轮对话就绕过了主流聊天机器人的安全过滤器。她表示，没有任何模型能够百分之百抵御这种持续不断的提示。.

危险并不仅限于单独行动的攻击者。

未来生命研究所的哈姆扎·乔杜里表示，一些具有生物学背景的人已经可以利用人工智能来策划有针对性的袭击，用沙门氏菌或蓖麻毒素等物质毒害食物或水源。.

他还补充说，有组织的团体可以将人工智能视为研究生导师，它可以修复失败的实验，并填补多年专业培训的空白，否则这些培训将很难获得。.

麻省理工学院未来科技研究所和昆士兰大学的一项研究描绘了这些风险的规模。

研究人员邀请了 272 位人工智能专家评估 24 个风险类别。在当前情况下，这 24 个风险类别中有 18 个在 2030 年前至少有 10% 的可能性造成灾难性损害，灾难性损害的 defi是：死亡人数超过 100 万人，损失超过 1000 亿美元，或造成类似损害。.

即使采取合理的措施来降低这些风险，仍有五个领域的风险达到或超过 10%：具有危险能力的 AI 系统（12%）、AI 辅助武器和网络攻击（12%）、环境危害（12%）、失业和不平等（11%）以及权力集中在少数人手中（11%）。.

“我们并不是说这些事情 defi会发生，”麻省理工学院未来科技研究所的研究科学家、该研究的合著者之一彼得·斯莱特里说，“我们只是说，这些是专家们认为现在值得关注的事情。”

在 OpenAI 内部，安全主管 Ryan Beiermeister 在 2024 年的大部分时间里都在敦促同事们构建一个系统来标记危险用户。但有些人对她的担忧不以为然。.

到 2025 年春季，该公司已部署了基本的监控工具。自 2025 年 4 月以来，该公司一直在 trac其高级型号的所有查询，并悬赏 5 万美元奖励任何能够证明自己绕过了其生物武器安全措施的人。.

在政策方面，德克萨斯州共和党众议员纳撒尼尔·莫兰 (Nathaniel Moran) 于 6 月提出一项法案，要求人工智能公司向商务部报告危险查询，包括涉及生物武器的查询。他还共同发起了一项立法，该立法将允许联邦政府下令关闭被认为过于危险的人工智能模型。.

莫兰说：“人工智能是创新的强大引擎，我希望看到它蓬勃发展，但前提是必须有问责制，并且必须有人类的监督。”