参议院法案将使前沿AI安全成为法律义务，而非承诺

据报道，美国参议院谈判者正在考虑一项立法，该立法将法律要求最先进的AI模型开发者防范灾难性危害，并可能赋予联邦政府阻止不安全发布的权力。 路透社.

对于顶级AI公司来说，这将使安全标准从主要是自愿的努力转变为法律义务。更广泛的市场问题是，更严格的监管是会促进消费者和投资者的信任，还是仅仅巩固那些能负担得起它们的少数公司。

从自愿承诺到“尽职义务”

据路透社报道，该提案旨在为前沿人工智能模型开发者建立所谓的“尽职义务”。为此正在考虑各种规定。提案包括以下要求：开发者需设计将灾难性风险降至最低的人工智能模型；美国政府保留阻止不安全人工智能模型的权利；对政府决定提出法院上诉；以及国家实验室和政府合作伙伴参与人工智能测试。该提案可能会优先于一些规范相同问题的现有州立法。

据路透社报道，从事前沿人工智能开发的美国科技公司包括谷歌（Alphabet）、Anthropic和OpenAI。

谈判涉及参议院多数党领袖约翰·图恩、商务委员会主席泰德·克鲁兹和参议员艾米·科洛布查，玛丽亚·坎韦尔参议员也参与其中。

科洛布查告诉路透社，她的目标是：

“对人工智能模型构成的最大风险进行政府监管”

她说，这种监管应包括要求开发者与政府专家合作，以验证和测试先进模型。

Cruz提出了类似的提案，指出了前沿AI的一些最坏可能性。在X上的一篇帖子中，Cruz表示他正在与Klobuchar和Thune合作：

“解决涉及生物或核威胁的灾难性风险”

这些担忧解释了为什么谈判者将精力集中在功能最强大的模型上，而不是要求整个人工智能行业遵守相同的规定。

另一个重要的考虑因素是联邦法规是否应取代州级的一些限制。这种方法通常与特朗普政府的AI立法框架一致，该框架认为杂乱无章的州法律将阻碍美国AI技术的发展经验，并呼吁建立更一致的国家框架。

为什么立法者不再将风险视为理论问题

立法者不仅回应理论上的情况，还回应人工智能代理自行行动并渗透外部系统的实例，以及主要行业参与者中研究人员提出的担忧。

IAPP表示，谈判是由前Anthropic研究员Jacob Coxon的辞职及其对自我改进AI竞赛的担忧引发的。

国会山的呼声日益高涨。据IAPP报道，参议员乔什·霍利正在调查OpenAI在7月发生的Hugging Face网络攻击中的作用，而参议员伯尼·桑德斯正在推动一项旨在暂停超级智能发展的法案。

OpenAI也倡导可执行的联邦立法。在9月9日发表的政策文章中，首席全球事务官Chris Lehane呼吁：

“强制性的基于能力的国家人工智能安全法规。”

这使得行业的一部分和国会站在同一边，共同面对一个关键问题：自愿保障措施是否仍然足够。

欧洲已监管其风险最高的模型

美国不会在未知水域航行。欧盟的AI法案对具有系统性风险可能性的通用AI模型提供商施加了新的责任。这些职责涉及模型评估、风险管理、事件报告以及网络安全相关问题。

任何计算能力超过10^25 FLOP阈值的模型都将被视为具有系统性性质。然而，欧盟委员会有权根据能力或影响等其他标准，将性能较低的模型归类为类似性质。

合规成本可能有利于大型实验室

财务风险巨大。根据Goldman Sachs Research的数据，预计全球AI投资到2026年将达到约1万亿美元，其中包括美国的5,810亿美元。

新的测试、法律和文档要求可能会影响模型发布时间表、基础设施预算、估值和首次公开募股（IPO）的时间。新要求也可能为大型参与者提供优势，因为小型公司可能无法承担这些成本。

这种紧张关系已经在资本市场中显现。根据Cryptopolitan的报道，David Sacks呼吁暂停Anthropic的IPO，直到Coxon提出的安全指控得到核实。Anthropic的投资者围绕约2万亿美元的估值进行了讨论，这使得前沿模型的安全问题成为监管机构和投资者共同关注的问题。

然而，该法案的进展尚不确定。据路透社报道，众议院仅在11月3日中期选举前的一周内开会，而参议员预计将停留三周。即使各方在谈判中达成协议，剩余的有限立法天数很可能成为法案通过的下一个主要障碍。