OpenAI、子供向け安全グループのAI投票用紙闘争を支援

OpenAIとCommon Sense Mediaは、技術政策で意見が対立していたが、金曜日に、カリフォルニア州で人工知能チャットボットを使用する子供たちを保護することを目的とした投票用紙提案で連携すると発表した。

2つのグループは、今年11月にカリフォルニア州の有権者に提出する計画だった個別の提案を撤回すると述べた。代わりに、彼らは共同で開発した単一の措置を支持する。

合意は、OpenAIが投票用紙に措置を載せるために少なくとも1,000万ドルを寄付する計画であるという、2つの組織間の高価な政治的闘争を防ぐものであり、この取り決めの事情に詳しい2人の個人によると、OpenAIは少なくとも1,000万ドルを寄付する計画だ。

新しい提案は、親が子供たちのAIチャットボットの使用方法についてより大きな権限を持つことを可能にする。しかし、それはCommon Sense Mediaが元のバージョンに望んでいた特定の規定を欠いている。削除された項目には、学校での携帯電話禁止と、チャットボットが危害を与えた場合、親と子供が主要なAI企業に対して法的措置を取れるようにする条項が含まれていた。

「AIに関する競合する投票用紙提案で有権者を混乱させるのではなく、一緒に働くことにした」と、Common Sense Mediaを設立し、運営するJim Steyer氏は述べた。彼は金曜日の記者会見でこの取引について語った。

この措置を有権者に提出するには、カリフォルニア州住民からの約87万5,000人の署名が必要だ。OpenAIのグローバルポリシー担当であるChris Lehane氏は、両側が2月初旬から署名収集を開始するためにキャンペーン組織を設立すると述べた。Lehane氏とSteyer氏の両氏は、カリフォルニア州の立法府が子供向けチャットボットの安全性に対処する立法を迅速に可決した場合、提案を撤回する可能性があると指摘した。

このパートナーシップは、しばしば技術問題の対立する側面にいた2つの組織にとっての転換点を示している。

Common Sense Mediaは、米国全体の技術企業に対する規制を推進する主要なプレイヤーとして台頭した。この組織は2018年にカリフォルニア州消費者プライバシー法（CCPA）の作成を支援した。先月、それは特定のソーシャルメディアサイトにおけるメンタルヘルスに関する警告ラベルを要求するニューヨーク州法を支持した。

このグループはまた、AIチャットボットの規制について活発に発言してきた。昨年、それは、これらのプログラムが性的に露骨な会話を「予測可能に」行う能力がないか、自傷、暴力、摂食障害のような有害な行動を促進しない限り、人気のあるAIコンパニオンチャットボットが子供たちと会話することを禁止するカリフォルニア州法案を支持した。

テクノロジー業界団体はその法案に反対した

民主党のGavin Newsom知事は、それを拒否し、過度に制限的だと呼んだ。

Newsom氏は、2026年に立法府がこの問題に対処することを望んだが、州が「これらのツールの使用を完全に防ぐことで、AIが至るところにある未来に若者を準備することはできない」と付け加えた。

Common Sense Mediaは、10月に拒否された法案をモデルとして、投票用紙の提案を提出した。OpenAIは12月、子供向け安全性に関するより限定的な独自の申請を提出することで対応した。

状況に詳しい人々によると、OpenAIは組織構造の変更に関する反発を予想し、夏にカリフォルニア州の投票用紙措置に焦点を当てたチームを構築した。

Google、Meta、Amazon.comのような富裕なテクノロジー企業を含むメンバーを持つカリフォルニア州商工会議所は、12月にCommon Sense Mediaが提案したものに反対するよう投票した。

その同じ月、レヘインはスタイアーと面会し、妥協案を練ることを提案した。

両組織は1年以上にわたり協議を重ねており、AIガイドラインや教材の作成における協力合意をすでに結んでいた。可能な妥協案について協議する中で、OpenAIはカリフォルニア州司法長官ロブ・ボンタ氏と9月に議論していた、子供たちの安全に関する概念を基盤として構築した。これには、18歳未満のユーザーを識別するための技術を開発する同社の計画が含まれていた。

新しい措置が要求すること

OpenAIの以前の申請に取って代わる更新された投票用紙の提案は、18歳未満と識別されたユーザーに、それらのユーザーが年上であると主張した場合でも、サービスの異なるバージョンを提供することをAI企業に求める。また、企業は 親権者コントロール を提供し、独立した子供向け安全性レビューに提出し、子供を対象とした広告を停止し、その他の要件に従うことを要求する。

この妥協案はOpenAIに有利に働き、過去1年間でChatGPTのやり取りが家族、特に自殺に至った若者らに害を与えたとして複数の家族から訴訟を起こされていた同社にとって、救済策となった。

OpenAIは、それらの訴訟で述べられた状況について「非常に悲劇的な状況」と呼び、メンタルヘルスの危機にあるユーザーへの対応を改善するためにChatGPTに対して最近行った更新について言及した。

11月、Common Sense Media は、ChatGPT、GoogleのGemini、AnthropicのClaude、Meta PlatformsのMeta AIを含むAIチャットボットが「ティーンエイジャーのメンタルヘルスサポートにとって根本的に安全でない」とするレビューを発表した。

2003年に自らの組織を設立したスタイアーは、テクノロジーやメディア企業と対峙しつつも、安全性の問題についてそれらと協力するというバランスを常に取ろうとしてきた。