加州人工智能监管法案已提交州长签署

一项备受争议的人工智能（AI）监管法案在加州立法机构取得了重大进展。这项名为SB-1047的法案旨在规范大型人工智能模型的安全，已在加州州议会获得通过，赞成票为45票，反对票为11票。. 

该法案于 5 月份以 32 比 1 的投票结果在州参议院获得通过，预计在提交州长加文·纽森签署之前，还需要在参议院进行一次程序性投票。. 

人工智能专家支持旨在应对潜在人工智能威胁的法案

SB-1047法案要求， 开发耗资超过1亿美元的大型人工智能系统的 必须加入“终止开关”，以便在人工智能系统对公众造成不利影响时自动关闭系统。这种做法尤其适用于人工智能系统需要在极少人工干预的情况下运行，且可能出现最坏情况的情况。 

该法案的支持者声称，鉴于先进的人工智能技术正变得越来越独立自主，这项法案对于应对随之而来的风险至关重要。法案发起人、州参议员斯科特·维纳指出，杰弗里·辛顿和约书亚·本吉奥等人工智能领域的顶尖专家都曾表达过对人工智能可能带来的潜在威胁的担忧。.

去年，辛顿和本吉奥等人签署了一份声明，声明称，如果人工智能得不到适当控制，可能会导致人类灭绝。. 

批评人士对比尔对创新的影响表示担忧。

然而，SB-1047法案遭到了人工智能研究和商业支持者的诸多批评。一些人认为，该法案更关注未来可能出现的风险，而非当前存在的风险，例如深度伪造和虚假新闻。. 

斯坦福大学以人为本人工智能研究所所长李飞飞一直公开反对这项法案。李飞飞在最近的一篇社论中指出，该法案会阻碍创新，因为开发者将面临巨大的法律责任风险。她还指出，这可能会抑制人工智能模型和权重以开源形式共享，而这对于学术研究和合作至关重要。.

加州商界领袖联名致信纽森州长，要求他否决这项法案，称其“存在根本性缺陷”。SB-1047法案即将生效，州长加文·纽森必须在9月30日前批准该法案。.

今年五月，在加州大学伯克利分校举办的一次研讨会上，加州州长纽森 承认 ，适当的监管是一门学问。他担忧过度监管可能会使加州陷入“非常危险的境地”。然而，鉴于人工智能行业的代表提出了一些问题，纽森也承认在一定程度上进行监管是必要的。