参议院法案将把前沿人工智能安全确立为一项法律义务，而非一项承诺。

据路透社报道，美国参议院谈判代表正在考虑一项立法，该立法将从法律上要求最先进的人工智能模型的开发者防范灾难性危害，并可能赋予联邦政府阻止不安全发布模型的权力。

对于顶尖人工智能公司而言，这将使安全标准从主要依靠自愿行为转变为法律义务。更广泛的市场问题是，更严格的监管究竟会增强消费者和投资者的信任，还是仅仅会巩固少数有能力承担监管费用的公司的利益。.

从自愿承诺到“关怀义务”

据路透社报道，该提案旨在为前沿人工智能模型开发者设立所谓的“注意义务”。为此，目前正在考虑多项具体条款。该提案包括以下要求：开发者必须设计能够最大限度降低灾难性风险的人工智能模型；美国政府保留阻止不安全人工智能模型的权利；允许对政府决定提起上诉；以及国家实验室和政府合作伙伴参与人工智能测试。该提案的效力可能高于某些州现行的相关立法。.

据路透社报道，从事前沿人工智能开发的美国科技公司包括谷歌（Alphabet）、Anthropic 和 OpenAI。.

参与会谈的有参议院多数党领袖约翰·图恩、商务委员会主席特德·克鲁兹和参议员艾米·克洛布查尔，参议员玛丽亚·坎特韦尔也参与其中。.

克洛布查尔告诉路透社，她的目标是：

“政府对人工智能模型带来的最大风险进行监管”

她表示，这种监管应该包括要求开发商与政府专家合作，以验证和测试先进模型。.

克鲁兹提出了一个类似的提案，其中揭示了前沿人工智能一些最糟糕的可能性。他在 X网站上发表的一篇文章表示，他正在与克洛布查尔和图恩合作，以：

“应对涉及生物或核威胁的灾难性风险”

这些担忧解释了为什么谈判者将精力集中在最实用的模型上，而不是要求整个人工智能行业做出同样的规定。.

另一个重要的考量因素是联邦法规是否应凌驾于州一级的某些限制之上。这种做法与 特朗普政府的人工智能立法框架，该框架认为，混乱的州法律体系会阻碍美国人工智能技术的发展，并呼吁建立一个更加统一的全国性框架。

为什么立法者不再将这些风险视为理论问题

立法者不仅要应对理论上的情况，还要dent人工智能代理自主行动并渗透外部系统的事件，以及主要行业参与者的研究人员表达的担忧。.

国际人工智能专业人士协会 (IAPP)表示，谈判的起因是前人类学研究员雅各布·考克森的辞职，以及他对人工智能自我改进竞赛的担忧。

据国际公共政策研究所（IAPP）报道，国会山的呼声越来越高。参议员乔什·霍利正在调查OpenAI在7月份发生的“拥抱脸”（Hugging Face）网络攻击事件中所扮演的角色，而参议员伯尼·桑德斯则在起草一项旨在暂停超级智能发展的法案。.

OpenAI 也倡导制定可强制执行的联邦法律。在 9 月 9 日发表的一篇政策文章，首席全球事务官克里斯·莱恩呼吁：

“强制性的、基于能力的国家人工智能安全法规。”

这使得部分行业人士和国会在自愿性保障措施是否仍然足够这一关键问题上站在同一阵线上。.

欧洲已经对其风险最高的车型进行了监管。

美国并非在探索未知领域。 欧盟的《人工智能法案》 已对可能存在系统性风险的通用人工智能模型提供商施加了新的责任。这些责任涉及模型评估、风险管理、事件dent 以及网络安全相关问题。

任何计算能力超过 10^25 FLOP 阈值的模型都将被视为具有潜在系统性影响。然而，欧盟委员会有权根据其他标准（例如功能或影响）对性能较低的模型进行类似的分类。.

合规成本可能对规模最大的实验室有利。

人工智能领域的经济利益巨大。据 高盛研究公司预测，到2026年，全球人工智能投资预计将达到约1万亿美元，其中包括美国的5810亿美元。

新的测试、法律和文件要求可能会影响车型发布计划、基础设施预算、估值以及首次公开募股（IPO）的时间安排。由于小型公司可能无法承担这些成本，新的要求也可能使大型企业获得优势。.

这种紧张局势已经在资本市场显现。据 Cryptopolitan，大卫·萨克斯呼吁暂停Anthropic的IPO，直到对考克森提出的安全指控进行核实。Anthropic的投资者围绕其约2万亿美元的估值展开了讨论，这使得前沿模型的安全性不仅引起了监管机构的关注，也引起了投资者的担忧。

然而，该法案的进展尚不明朗。据路透社报道，众议院仅为期一周，为11月3日的中期选举做准备，而参议院预计将会持续三周。即便各方在谈判中达成协议，剩余的有限立法时间很可能成为该法案最终通过的最大障碍。.