加州州长纽森签署人工智能聊天机器人安全法案成为法律

加州州长加文·纽森（Gavin Newsom）周一签署了一项新法案，为新兴技术（如人工智能）建立明确的安全保障措施。这项新立法旨在进一步加强该州在使用人工智能聊天机器人时保护儿童在线安全的措施。

该立法包括对聊天机器人的保障措施，如年龄验证、处理自杀和自残的协议、关于社交媒体和伴侣聊天机器人的警告，以及对从非法深度伪造中获利者的严厉惩罚。州长认为，该举措将有助于确保儿童的安全在加州始终处于核心地位。

纽森认为社交媒体可能会误导和危害儿童

纽森 交易价格低于其200日移动平均线，这是自2022年熊市以来最长的此类时期。 认为，像聊天机器人和社交媒体这样的新兴技术可以启发、教育和连接人们，但确实需要真正的护栏，因为技术也可能利用、误导和危害儿童。他认为，加州可以继续引领人工智能和技术的发展，但必须以负责任的方式进行。

第一夫人Jeniffer Siebel Newsom认为，人们所做的一切始于他们的孩子；他们的安全、健康和福祉。她说，虽然加州一直引领创新，但真正的领导也意味着在关键时刻为孩子设定界限。Siebel补充说，该立法建立了保护儿童健康和安全的护栏，同时确保创新以负责任的方式前进。

“我们看到了一些真正可怕和悲剧性的例子，年轻人受到不受监管的技术的伤害，我们不会坐视不管，让公司在没有必要的限制和责任的情况下继续下去。我们孩子的安全不是用来出售的。”

–加文·纽森，加州州长。

加州一直在保护儿童免受新兴技术危险方面处于领先地位。该州此前已通过其他立法，以保护儿童免受社交媒体成瘾、严格的隐私要求和全国领先的透明度措施的影响。

该立法旨在 创建 对人工智能聊天机器人的新保障措施，通过建立要求聊天机器人创建协议来识别和解决用户的自杀意念或自残表达。该法案还要求平台披露交互是由人工智能生成的。

该法案旨在保护儿童免受社交媒体的风险

根据该法案，聊天机器人平台必须提供休息提醒，并防止儿童查看由聊天机器人生成的色情图像。聊天机器人还必须分享解决自残的协议，以及向公共卫生部提供统计数据，显示它们向用户提供危机中心预防通知的频率。根据新立法，聊天机器人不得自称是医疗保健专业人员。

新法案要求操作系统和应用商店提供商拥有年龄验证协议，以帮助防止儿童访问在线上的不适当或危险内容。聊天机器人平台还需要显示社交媒体警告标签，以帮助年轻用户了解长期使用社交媒体平台可能带来的危害。

新立法设定了更强的 惩罚 针对聊天机器人中的深度伪造色情内容，包括对明知协助或帮助分发合意色情材料的第三方，受害者可获得高达每起行动25万美元的民事救济。纽森还推动针对网络欺凌的指导，要求加州教育部（CDE）在2026年6月1日前通过一项处理校外发生的网络欺凌行为的模范政策。它还要求地方教育机构通过由此产生的政策或与当地意见共同制定的类似政策。

纽森州长还呼吁对人工智能技术造成的伤害 是由 明确问责。该举措旨在防止那些开发、修改或使用人工智能的人通过声称技术是自主行动来逃避责任。

已通过几项其他法案来保护儿童并增强技术和在线平台的安全性。其中包括由议员Rebecca Bauer-Kahan提出的社交媒体警告标签、由议员Maggie Krell提出的人工智能防御、由长滩议员Josh Lowenthal提出的深度伪造色情、由议员Pilar Schiavo提出的账户取消、由议员Jacqui Irwin提出的加州网络安全集成中心：人工智能等。