Roblox、Alphabet、OpenAI、Discordがオープンソースのオンライン児童安全ツールのために2700万ドルを調達

Google、OpenAI、Roblox、Discordは、オンラインでの児童安全の向上を目指して新しく設立された非営利団体を結成し、社会のために集団的な善を行うために結束しています。 

このイニシアチブはROOST（Robust Open Online Safety Tools）として知られており、企業のためのコアセキュリティテクノロジーへのアクセスを容易にし、児童性的虐待材料の特定、レビュー、および報告のための無料のオープンソースAIツールを提供することで、基本的な安全技術のアクセシビリティを確保することを目指しています。

児童性的虐待は、それを抑制するための取り組みにもかかわらず、オンライン空間で依然として蔓延している世界的な疫病です。最近では、多くのアプリユーザーや立法府のメンバーでさえ、Metaのマーク・ザッカーバーグのようなアプリ作成者が、特に児童ポルノや性的虐待に関連して、自社の製品がもたらす害の責任を取るよう提案しています。 

このイニシアチブは、重要なニーズに対応しています。 

共同イニシアチブは、生成AIの進歩がオンライン環境にもたらした変化への部分的な対応として行われています。設立 ROOST パートナーであり元Google CEOのエリック・シュミット氏は、このイニシアチブが「オンライン児童安全におけるイノベーションを加速させるための重要なニーズ」に対応したいと述べています。 

現時点では、CSAM（児童性的虐待物）検出ツールに関する詳細は まだ完全に利用可能ではありません。しかし、それらが大規模言語AIモデルを利用し、コンテンツへの対処のための既存のオプションを「統一」することはわかっています。

「児童保護に焦点を当てたプラットフォームから始め、ROOSTの協力的でオープンソースのアプローチは、イノベーションを促進し、不可欠なインフラをより透明で、アクセスしやすく、包括的なものにし、誰もがより安全なインターネットを作成することを目指します」とシュミットは述べています。 

前述したように、ROOSTの発表は、ソーシャルメディアやオンラインプラットフォームにおける児童安全に関する進行中の規制推進と一致しています。企業は今、自発的規制提案を通じて、攻撃的な立法府をなだめようとしています。

ROOSTは、その目的を達成するために、主要なAIファウンデーションモデル開発者と提携します。

国立行方不明・搾取児童センター（NCMEC）によると、2022年から2023年の間に疑わしい児童搾取が12%増加しました。2020年時点で、米国の児童の半数以上が Roblox、 同社は、プラットフォーム上で児童性的搾取や不適切なコンテンツへの曝露に対処しなかったことに対し、繰り返し厳しい批判を受けてきた。 

ROOSTの創設メンバーは、すべてのリソースを動員し、プロジェクトの形成過程において、資金提供やツール、専門知識をさまざまに提供する。このイニシアチブはまた、コンテンツ保護のための「実践コミュニティ」を構築するために、主要なAI基盤モデル開発企業と提携することも明らかにしている。これには、検証済みのAIトレーニング用データセットの提供や、安全性におけるギャップの特定が含まれる。

このイニシアチブはまた、「すでに存在するツール」へのアクセスを容易にし、メンバー組織からのさまざまな検知・報告技術を統合したソリューションとして提供し、他の企業がより簡単に導入できるようにする。 

RobloxとDiscordが評判の再構築に取り組む

Together with Roblox、 Discordはまた、2022年に提起されたソーシャルメディア訴訟でも標的にされた。この訴訟では、プラットフォームが監督なしで大人が子供にメッセージを送るのを止めなかったと主張された。

Robloxのエンジニアリング、信頼性、安全性担当副社長であるNaren Koneru氏は、ROOSTがAPI呼び出しを通じて企業が統合できるAIモデレーションシステムをホストする可能性があると言っている。しかし、ROOSTのAIモデレーションツールがカバーする範囲については、いくらか不明確な点がある。

例えば、Discordは、MetaやGoogleとともに2023年に参加したLanternというクロスプラットフォームの情報共有プロジェクトに基づいて貢献すると述べている。しかし、それはまた、今年オープンソースとしてリリースする予定の、音声クリップ内の悪口、人種差別的発言、いじめ、セクシャルなメッセージング、その他の不適切なコンテンツを検出するためのRobloxのAIモデルの更新版を含む可能性もある。 

これらのツールが、MicrosoftのPhotoDNA画像分析ツールのような既存の第一線のCSAM（児童性的虐待物）検知システムとどのように交差するかは、まだ見えていない。

ROOSTの一員であることに加え、 Discord はまた、ミュートした相手に通知を送ることなく、受信したメッセージや通知を非表示にできる新しい「無視」機能をリリースした。 

「Discordでは、安全性は共通の財であると信じています」と、Discordの最高法務責任者であるClint Smith氏はROOSTの発表で語った。「私たちは、Discordだけでなく、インターネット全体を、特に若者にとってより良く、より安全な場所にするためにコミットしています。」 

現時点で、このイニシアチブは最初の4年間の運営費用を賄うために2,700万ドル以上を調達しており、マゴベン財団、オンライン信頼と安全性の未来基金、ナイト財団、AIコラボラティブなどの慈善団体からの支援を受けている。 

ROOST組織はまた、児童の安全、人工知能、 オープンソース技術、 および「過激主義の対抗」の専門家の支援を受ける。これは、世界中に広がる児童性的虐待とそのコンテンツの拡散を抑制するために、テック業界の賢人たちが協力して成し遂げた究極の成果 essentially である。オープンソースであるため、世界中の開発者コミュニティによる継続的なアップデートと改善が可能であり、時間とともに進化し続けるROOSTという巨大な存在が誕生しようとしている。