加州州长纽森签署人工智能聊天机器人安全保障法案使其生效

加州州长加文·纽森周一签署了一项新法案，旨在为人工智能等新兴技术设立明确的保障措施。这项新法案旨在进一步加强加州对儿童使用人工智能聊天机器人时的在线保护。.

该法案包含多项针对聊天机器人的安全保障措施，例如年龄验证、应对自杀和自残行为的协议、关于社交媒体和陪伴型聊天机器人的警告，以及对利用非法深度伪造技术牟利者处以严厉处罚。州长认为，这项举措将有助于确保加州始终将儿童安全放在首位。.

纽森认为社交媒体会误导儿童并危及他们的安全。

纽森 指出 ，聊天机器人和社交媒体等新兴技术可以启发、教育和连接人们，但同时也需要真正的保障措施，因为技术也可能被利用、误导甚至危害儿童。他认为，加州可以继续在人工智能和技术领域保持领先地位，但必须以负责任的方式进行。

州长的首席助理詹妮弗·西贝尔·纽森认为，人们所做的一切都应以孩子为中心：孩子的安全、健康和福祉。她表示，尽管加州一直引领创新，但真正的领导力也意味着在最关键的时刻为孩子们设定界限。西贝尔补充说，这项立法设立了保障儿童健康和安全的机制，同时确保创新以负责任的方式推进。.

“我们已经目睹了一些令人震惊和悲惨的案例，一些年轻人因不受监管的技术而受到伤害，我们绝不会袖手旁观，任由这些公司继续缺乏必要的限制和问责。我们孩子的安全不容买卖。”

——加州州长加文·纽森。

加州一直走在保护儿童免受新兴技术危害的前沿。此前，该州已签署多项法案，旨在保护儿童免受社交媒体成瘾的侵害，并制定了tron的隐私保护要求和全国领先的透明度措施。.

该法案旨在 通过要求聊天机器人建立识别和应对用户自杀念头或自残行为的机制，为人工智能聊天机器人设立新的保障措施dent该法案还要求平台披露互动内容是否由人工智能生成。

该法案旨在保护儿童免受社交媒体带来的风险。

根据该法案，聊天机器人平台必须提供休息提醒，并防止儿童查看聊天机器人生成的色情图片。聊天机器人还必须向公共卫生部门提供应对自残行为的方案，以及显示其向用户提供危机中心预防通知频率的统计数据。根据新法，聊天机器人不得冒充医疗保健专业人员。.

新法案要求操作系统和应用商店提供商必须具备年龄验证机制，以防止儿童访问网络上不适宜或危险的内容。聊天机器人平台也需要显示社交媒体警告标签，帮助年轻用户了解长时间使用社交媒体平台可能带来的危害。.

新法案加大了tron力度 赔偿 ，每起诉讼最高可获得25万美元，赔偿对象为明知故犯地协助或帮助传播双方自愿的露骨性内容的第三方。纽森还推动制定打击网络欺凌的指导方针，要求加州教育部（CDE）在2026年6月1日前制定一项关于处理在校外发生的网络欺凌行为的示范政策。该法案还要求地方教育机构采纳最终形成的政策，或在地方层面参与制定的类似政策。

纽森州长还呼吁 造成的 。这项举措旨在防止那些开发、修改或使用人工智能的人以技术自主运行为由逃避责任。

为保护儿童并提升科技和网络平台的安全性，加州已通过多项法案。其中包括：州议员丽贝卡·鲍尔-卡汉提出的“社交媒体：警告标签”法案；州议员玛吉·克雷尔提出的“人工智能防御”法案；长滩州议员乔什·洛文塔尔提出的“深度伪造色情内容”法案；州议员皮拉尔·斯基亚沃提出的“账户注销”法案；州议员杰奎·欧文提出的“加州网络安全集成中心：人工智能”法案等等。.