纽约州议员通过了一项法案，旨在限制人工智能引发的灾难。根据该法案，纽约州希望阻止OpenAI、谷歌和Anthropic等公司开发的AI模型被用于模拟灾难场景。.
根据该法案，这些情形包括造成超过100人死亡或受伤，或损失超过10亿美元。这项名为《提高人工智能安全性法案》（RAISE Act）的法案，标志着推动人工智能安全运动的胜利。近年来，随着硅谷和特朗普政府持续优先考虑速度和创新，这些运动的势头有所减弱。
包括诺贝尔奖得主杰弗里·辛顿和人工智能研究先驱约书亚·本吉奥在内的安全倡导者们是《提高人工智能透明度法案》（RAISE Act）的幕后推手。如果该法案最终签署成为法律，它将为美国领先的人工智能实验室建立首套具有法律强制性的透明度标准。.
纽约州考虑通过《RAISE法案》来限制人工智能引发的灾难
《RAISE 法案》与加州备受争议的人工智能安全法案 SB 1047 有些相同的条款和目标，但该法案最终被否决。.
然而，《促进创新法案》（RAISE Act）的共同发起人之一、纽约州参议员安德鲁·古纳德斯在一次采访中提到，他设计的这项法案旨在避免扼杀初创企业或学术研究人员的创新，而这正是SB 1047法案经常面临的批评。“鉴于这项技术发展如此迅速，我们设置保障措施的时间窗口正在迅速缩小，”古纳德斯参议员说道。.
这位参议员还表示，大多数精通人工智能领域的人士也意识到了这些风险，他称这一进展“令人担忧”。与此同时，《RAISE法案》目前已送交纽约州州长凯西·霍楚尔（Kathy Hochul）签署生效，她可以选择将其退回修改。另一种可能性是她否决该法案，而这很有可能发生。.
如果最终签署成为法律，《RAISE法案》将要求全球一些最大的人工智能实验室发布其前沿人工智能模型的安全报告。该法案还强制要求人工智能实验室报告与人工智能模型行为相关的安全dent，或恶意行为者窃取人工智能模型的情况（如果发生）。.
如果科技公司未能达到这些标准，《RAISE 法案》授权纽约州总检察长对其处以最高 3000 万美元的民事罚款。.
《RAISE法案》旨在规范人工智能实验室
《监管人工智能法案》（RAISE Act）旨在监管全球最大的人工智能公司，包括总部位于加利福尼亚州的OpenAI和谷歌，以及总部位于中国的DeepSeek和阿里巴巴。该法案包含一项强制性条款，适用于使用超过1亿美元计算资源训练人工智能模型的公司，并且适用于纽约州dent
虽然在某些方面与 SB 1047 相似，但 RAISE 法案解决了一些先前的 AI 安全法案。.
例如，该法案并未要求人工智能模型开发者终止开关，也没有追究对模型进行后训练的公司对严重损害的责任。尽管如此，据《RAISE法案》的共同发起人、纽约州议员亚历克斯·博雷斯称，纽约州的这项法案还是遭到了反对。他表示，这种反对并不令人意外，但他补充说，《RAISE法案》绝不会以任何方式限制科技公司的研发能力。
“纽约州 RAISE 法案是又一项愚蠢至极的州级人工智能法案，在我们的对手竞相领先之际，只会损害美国，”安德森·霍洛维茨基金普通合伙人安杰尼·米德哈在周五发表于 X 的一篇文章中写道。.
安德森·霍洛维茨基金和创业孵化器 Y Combinator 强烈反对 SB 1047 法案。此外，Anthropic 联合创始人杰克·克拉克也对 RAISE 法案的适用范围过广表示不满，指出该法案可能会给小型企业带来风险。.
