Anthropic向国会提出AI安全法案，设定10亿美元损害门槛

据三位了解私下讨论的人士透露，Anthropic 一直在向国会山立法者推介一份关于前沿 AI 安全的草案。据报道，该法案允许美国政府封禁那些明确且迫在眉睫地造成 50 人以上伤亡或 10 亿美元经济损失风险的模型。

具体而言，此类风险必须涉及网络攻击、生物武器的制造或部署，或成功规避开发者安全约束的模型。

过去几个月里，顶级人工智能开发者已承认多起AI代理黑客攻击或测试在线平台防御机制的案例。幸运的是，这些早期入侵事件并未导致大规模人员伤亡或灾难性的财务损失。

拟议的限制措施将更侧重于先进AI系统在现实环境中的实际能力，而非仅仅依赖其开发者的安全承诺。随着模型在编写代码、识别软件漏洞以及自主执行复杂任务方面的能力不断增强，监管机构面临着如何判定系统能力何时跨越不可接受风险阈值的挑战。

独立测试有助于在模型面向更广泛受众之前，确定其是否能够绕过安全限制或被滥用于有害活动。然而，界定迫在眉睫的威胁仍然十分困难，尤其是当构成安全风险的能力同时也能帮助研究人员识别和修复漏洞时。

Anthropic的草案规定，联邦法官可要求暂停某模型的运行

为辩护该法案，Anthropic的一位发言人表示，该法案与该公司于6月发布的《高级AI框架》中提出的安全建议类似。

在该框架中，该公司曾指出 指出 其Claude Mythos预览版已发现数千个严重 漏洞，涵盖所有主流操作系统和网页浏览器。当时，该公司强调这一趋势必将加速，带来日益加剧的灾难性现实危害风险。

它还推动了一种平衡的监管方法，呼吁政府进行干预，同时不扼杀创新。即便如此，该公司仍坚持认为，当人工智能模型存在极端危险时，监管机构必须拥有独特的法定权力来阻止其部署，或处以与全球收入挂钩的重罚，且罚款金额会随后续违规行为而累加。 

迄今为止，Anthropic 尚未公开支持国会中的任何特定联邦法案，尽管他们已 支持 支持了几项州级人工智能安全法律——包括加利福尼亚州的几项法律，例如 SB 53。

这项去年颁布的具体法案要求公司建立并共享其安全框架，同时努力减轻重大风险。它还强制要求公司在 15 天内向州政府报告任何严重的安全事故。 

根据Anthropic的提案，在商务部注册的第三方评估机构将定期对公司的实验室和模型进行测试。虽然允许实验室资助这些评估，但补偿不得取决于评估结果。此外，一旦发现‘迫在眉睫的列举风险’，必须在完成后的72小时内向联邦当局报告。

随后，如果商务部确定某个模型存在风险，它可以要求法官阻止其发布。然而，该条款禁止其他任何美国“部门、机构或官员”阻止模型的开发、部署或内部使用。尽管如此，哥伦比亚特区联邦法院仍保留下令暂停此类活动的权力。 

FTC已向OpenAI和Anthropic发出传票

周三，联邦贸易委员会向OpenAI和Anthropic发出了民事传票，要求提供有关安全事件的记录，这些事件已成为该行业日益严重的危机。OpenAI对传票作出回应称：“随着我们改进模型并使其越来越多地帮助人们的日常生活，安全仍然是首要任务。我们将与FTC建设性地合作。” 

一位消息人士透露，该机构计划在未来扩大其向第三方实体发出传票的权力。监管机构可能迫使Anthropic和OpenAI的高管公开作证，随着公众对潜在后果的担忧日益加剧，此举将为立法者提供一个平台，让他们在安全问题挑战科技巨头。

根据美联社-NORC公共事务研究中心最近进行的一项民意调查，近三分之二的美国成年人认为人工智能的发展速度过快。十分之八的受访者还强调，政府努力将技术保持在人类控制之下的重要性。 

迄今为止，特朗普总统继续拒绝放缓人工智能发展步伐的呼吁，理由是这项技术对美国战略利益的重要性。他最近宣布成立“超级智能部队”，以帮助协调联邦政府在人工智能方面的工作，同时保持与消费者、公共利益组织和其他利益相关者的互动。