纽约通过法案，限制由人工智能故障引发的灾难性事故

纽约州的立法者通过了一项法案，以限制人工智能造成的灾难。根据该法案，该州希望防止由OpenAI、Google和Anthropic等公司创建的AI模型导致灾难性场景。

根据法案，这些场景包括造成100多人死亡或受伤，或造成超过10亿美元的损害或损失。该法案被称为RAISE法案，是推动AI安全运动的一次胜利。在过去几年里，随着硅谷和特朗普政府继续优先考虑速度和创新，这些运动的势头有所减弱。

专注于安全的倡导者，包括诺贝尔奖得主Geoffrey Hinton和AI研究先驱Yoshua Bengio是RAISE法案背后的推动者。如果它最终被签署成为法律，该法案将确立美国领先的人工智能实验室的第一套法定透明度标准。

纽约考虑RAISE法案以限制AI引发的灾难

RAISE法案与加利福尼亚州备受争议的AI安全法案SB 1047有一些相同的条款和目标，该法案最终被否决。

然而，RAISE法案的共同发起人、纽约州参议员Andrew Gounardes在一次采访中表示，他设计该法案的方式不会扼杀初创公司或学术研究人员之间的创新，这是SB 1047面临的常见批评。“鉴于这项技术演变的快速程度，建立护栏的窗口正在迅速缩小，”Gounardes参议员说。

这位参议员还表示，大多数熟悉AI领域的人也认识到了这些风险，他称这一发展为“令人担忧”。与此同时，RAISE法案现已送往纽约州州长Kathy Hochul的办公桌，她可以选择将其签署为法律或发回修改。另一个选择是她否决该法案，这很可能是。

如果最终被签署成为法律，RAISE法案将要求世界上一些最大的人工智能实验室发布其前沿AI模型的安全和安全性报告。该法案还强制要求AI实验室报告涉及AI模型行为或坏人窃取AI模型的安全事件（如果发生的话）。

如果科技公司未能达到这些标准，RAISE法案授权纽约州总检察长对其处以高达3000万美元的民事罚款。

RAISE法案旨在规范AI实验室

RAISE法案旨在规范全球最大的人工智能公司，包括位于加利福尼亚州的OpenAI和Google，以及位于中国的DeepSeek和阿里巴巴。该法案的要求包括一项强制性条款，适用于使用超过1亿美元的计算资源来训练其AI模型且面向纽约居民开放的公司。

虽然与SB 1047在某些方面相似，但RAISE法案解决了一些以前AI安全法案的问题。

例如，没有任何条款要求AI模型开发者在其模型上设置紧急停止开关，也没有追究对其模型进行后训练的公司对严重伤害的责任。然而，据RAISE法案的共同发起人、纽约州众议员Alex Bores称，对该纽约州法案存在反对意见。他表示这种阻力并不令人意外，但补充说，RAISE法案不会以任何方式限制科技公司的开发能力。

“纽约RAISE法案是又一项愚蠢的州级AI法案，它只会损害美国，而我们的对手正在加速前进，”Andreessen Horowitz的普通合伙人Anjney Midha在周五发布在X上的一篇帖子中说。

Andreessen Horowitz和初创公司孵化器Y Combinator强烈反对SB 1047。此外，Anthropic联合创始人Jack Clark也分享了他对RAISE法案过于宽泛的不满，指出它可能会给较小的公司带来风险。