加州 AI 监管法案推进至州长办公桌

一项备受争议的人工智能（AI）监管法案已在加州议会通过重大障碍。旨在规范大型 AI 模型安全的 SB-1047 法案已获得加州众议院 45 票赞成、11 票反对的批准。 

该法案已于 5 月以 32 票赞成、1 票反对在州参议院通过，预计将在提交给州长加文·纽森签署之前，在参议院再进行一次程序性投票。 

AI 专家支持该法案以解决潜在的 AI 威胁

SB-1047 要求，在成本超过 1 亿美元的情况下训练的大规模 AI 开发者 必须包含一个“紧急停止开关”，以便在 AI 对公众产生不利影响时关闭 AI。这种方法在 AI 系统必须在最少人工干预下运行且可能发生最坏情况的情况下尤其相关。

支持该法案通过的人声称，由于先进的 AI 技术正变得越来越自主，因此有必要通过该法案来解决随之而来的风险。该法案的作者、州参议员 Scott Weiner 指出，Geoffrey Hinton 和 Yoshua Bengio 等 AI 领军人物表达了对 AI 可能带来的潜在威胁的担忧。

去年，Hinton 和 Bengio 是签署了一份声明的签署人之一，该声明称，如果 AI 没有得到适当控制，可能会导致人类灭绝。 

批评者对该法案对创新的影响表示担忧

然而，SB-1047 遭到了 AI 研究和商业支持者的强烈批评。一些人认为，该法案更关注未来可能出现的风险，而不是集中在当前的风险上，如深度伪造和假新闻。 

斯坦福大学以人为本的人工智能研究所主任李飞飞一直对该法案持反对意见。根据李飞飞最近的社论，这项立法对创新构成威胁，因为开发者面临大量的责任风险。他指出，这可能会阻碍在开源格式中共享 AI 模型和权重，而这些对于学术界和合作至关重要。

加州商业领袖签署公开信，要求纽森否决该法案，称其“存在根本性缺陷”。随着SB-1047法案即将颁布，加州州长加文·纽森必须在9月30日前批准该法案。

今年 5 月，在加州大学伯克利分校的一次研讨会上，纽森州长 同意 适当的监管是一条微妙的界线。他提出担忧，过度监管可能会使该州陷入“非常危险的境地”。然而，纽森也认识到，随着 AI 行业代表提出某些问题，在一定程度上有必要进行监管。