一项备受争议的人工智能监管法案为加州立法机构扫清了一个重大障碍。旨在监管大型人工智能模型安全的法案 SB-1047 已获得加州议会批准，其中 45 票赞成，11 票反对。
该法案于 5 月以 32 比 1 的投票结果在州参议院获得通过，预计在送交州长加文·纽瑟姆 (Gavin Newsom) 签署之前，还将在参议院再进行一次程序性投票。
人工智能专家支持解决潜在人工智能威胁的法案
SB-1047 要求进行培训的大规模人工智能配备一个“终止开关”，该开关可以关闭人工智能，以防它对公众产生不利影响。这种方法尤其适用于人工智能系统必须在最少的人为干预下运行的情况，并且可能会发生最坏的情况。
该法案通过的支持者声称，由于先进的人工智能技术变得更加自力更生，因此该法案对于解决随之而来的风险是必要的。该法案的作者、州参议员斯科特·韦纳指出，人工智能领域的顶尖专家杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等名人对人工智能可能带来的潜在威胁表示担忧。
去年，辛顿和本吉奥是一份声明的签署人之一，该声明称，如果人工智能得不到适当的控制，可能会导致人类灭绝。
批评者对比尔对创新的影响表示担忧
然而，SB-1047 遭到了人工智能研究和商业支持者的大量批评。一些人认为，该法案更关注未来可能出现的风险，而不是关注当前的风险，例如深度造假和假新闻。
斯坦福大学以人为中心的人工智能研究所所长李飞飞一直强烈反对该法案。李在最近的社论中表示，该立法对创新构成威胁，因为开发商面临很大的责任。她指出，这可能会阻碍以开源格式共享人工智能模型和权重，而这对于学术和协作至关重要。
加州商界领袖签署了一封公开信，要求纽瑟姆否决该法案，他们称该法案“存在根本缺陷”。随着 SB-1047 即将颁布，州长 Gavin Newsom 必须在 9 月 30 日之前批准该法案。
今年五月，在加州大学伯克利分校的一次研讨会上，纽瑟姆州长同意适当的监管是一条界限。他担心，由于过度监管，国家可能陷入“非常不稳定的境地”。不过，随着人工智能行业代表提出一些质疑，纽瑟姆也在一定程度上认识到了监管的必要性。
密码大都会学院：厌倦了市场波动？了解DeFi帮助您建立稳定的被动收入。立即注册
