OpenAI 支持儿童安全团体的 AI 投票斗争

OpenAI 和 Common Sense Media 此前在技术政策上存在分歧，但周五宣布将联手推动一项旨在保护加州使用人工智能聊天机器人的儿童的投票提案。

这两个组织表示，他们将放弃原计划在今年 11 月提交给加州选民的两个独立提案。相反，他们将支持他们共同制定的一项单一措施。

据两位了解该安排的人士称，协议 防止了这两个组织之间可能发生的昂贵政治斗争，OpenAI 计划至少出资 1000 万美元以使该措施进入投票程序。

新提案将赋予父母更大的权力来控制孩子如何使用 AI 聊天机器人。然而，它省略了 Common Sense Media 在其原始版本中希望包含的某些条款。这些被删除的项目包括禁止在学校使用手机，以及允许父母和儿童在聊天机器人造成伤害时对主要 AI 公司采取法律行动的条款。

“与其用相互竞争的 AI 投票倡议让选民感到困惑，我们决定合作，”Common Sense Media 的创始人兼负责人 Jim Steyer 说。他在周五的新闻发布会上谈到了这笔交易。

将该措施提交给选民需要大约 87.5 万个加州居民的签名。负责 OpenAI 全球政策事务的 Chris Lehane 表示，双方将成立一个竞选组织，从 2 月初开始收集签名。Lehane 和 Steyer 都指出，如果加州立法者迅速采取行动通过解决儿童聊天机器人安全的立法，他们可能会撤回该提案。

这种合作标志着两个组织发生了转变，它们经常在技术问题上处于对立面。

Common Sense Media 已成为推动美国各地科技公司监管规则的主要力量。该组织帮助创建了 2018 年的加州消费者隐私法。就在上个月，它支持了一项纽约州法律，要求在特定社交媒体网站上添加关于心理健康的警告标签。

该团体也一直在积极呼吁监管 AI 聊天机器人。去年，它支持了一项加州法案，该法案将阻止流行的 AI 伴侣聊天机器人与儿童交谈，除非这些程序“可预见地能够”进行性露骨对话或推广自残、暴力和饮食失调等有害行为。

科技行业团体反对该法案

民主党州长加文·纽森拒绝签署该法案，称其限制过多。

纽森表示，他希望立法者在 2026 年解决这个问题，但他补充说，国家“不能通过完全禁止使用这些工具来让我们的年轻人为 AI 无处不在的未来做好准备。”

Common Sense Media 于 10 月提交了其投票倡议提案，以被否决的法案为模型。OpenAI 随后在 12 月提交了其自己的、范围更有限的关于儿童安全的倡议。

知情人士称，OpenAI 在夏季组建了一个专注于加州投票措施的小组，预计其改变组织结构的计划会遭到反对。

加州商会（其成员包括 Google、Meta 和 Amazon.com 等富裕科技公司）于 12 月投票反对 Common Sense Media 提出的提案。

同月，Lehane 与 Steyer 会面，建议达成妥协。

这两个组织已经讨论了一年多，并且已经达成协议，在 AI 指南和教学材料方面进行合作。在讨论可能的妥协方案时，OpenAI 基于 OpenAI 负责人 Sam Altman 今年 9 月与加州总检察长 Rob Bonta 讨论过的儿童安全概念进行了构建。其中包括该公司计划创建用于识别 18 岁以下用户的技術。

新措施的要求

更新的投票倡议将取代 OpenAI 之前的申请，要求 AI 公司向被识别为 18 岁以下的用户提供其服务的不同版本，即使用户声称自己年龄更大。它还要求公司提供 家长控制，接受独立的儿童安全审查，停止针对儿童的广告，以及其他要求。

这项妥协方案有利于 OpenAI，后者在过去一年中面临来自多个家庭的诉讼，声称 ChatGPT 的互动伤害了他们的亲属，包括那些自杀的年轻人。

OpenAI 称这些诉讼中描述的情况是“令人心碎的情况”，并提到了它最近对 ChatGPT 进行的更新，以更好地处理经历心理困扰的用户。

11 月，Common Sense Media 发布了一份评论，指出包括 ChatGPT、Google 的 Gemini、Anthropic 的 Claude 和 Meta Platforms 的 Meta AI 在内的 AI 聊天机器人“对青少年心理健康支持根本不安全”。

Steyer 于 2003 年创立了他的组织，一直试图在对抗科技和媒体公司的同时，与其在安全问题上进行合作，以取得平衡。