Google、OpenAI、Roblox、Discord の 4 社は、社会全体に貢献するために協力し、最近、ネット上の子供の安全の向上を目的とした新しい非営利団体を設立しました。.
この取り組みは「Robust Open Online Safety Tools (ROOST)」と呼ばれ、児童性的虐待素材をdent、確認、報告するための無料のオープンソース AI ツールを提供しながら、中核的な安全技術を企業がより利用しやすくすることを目指します。.
児童性的ハラスメントは世界的な蔓延であり、抑制に向けた取り組みにもかかわらず、オンライン空間で依然として蔓延しています。近年、多くのアプリユーザー、さらには議員までもが、Metaのマーク・ザッカーバーグ氏のようなアプリ開発者に対し、特に児童ポルノや性的虐待に関わる、自社製品が及ぼす被害の大きさについて責任を負うよう求めています。.
この取り組みは重要なニーズに対応している
この共同イニシアチブは、生成型AIの進歩がオンライン環境にもたらした変化への対応策の一つとして実施されている。ROOST の パートナーであり、元Google CEOのエリック・シュミット氏は、このイニシアチブは「オンライン上の児童安全におけるイノベーションを加速させるという喫緊のニーズ」に応えることを目的としていると述べている。
現時点では、児童性的虐待画像（CSAM）検出ツールの詳細は まだ完全には明らかになってい。しかし、これらのツールは大規模な言語AIモデルを活用し、コンテンツ処理のための既存の選択肢を「統合」するものとなることは分かっています。
「児童保護に焦点を当てたプラットフォームから始まるROOSTの協調的かつオープンソースのアプローチは、イノベーションを促進し、すべての人にとってより安全なインターネットを作ることを目標に、重要なインフラをより透明性、アクセス性、包摂性を高めます」とシュミット氏は述べた。.
前述の通り、ROOSTの発表は、ソーシャルメディアやオンラインプラットフォームにおける児童の安全に関する規制強化の動きと時を同じくしています。企業は現在、自主規制案によって、攻撃的な姿勢を見せる議員たちをなだめようとしています。.
ROOSTは、その目標を達成するために、主要なAI基盤モデル開発者と提携します。
全米行方不明・搾取児童センター（NCMEC）によると、児童搾取の疑いは2022年から2023年の間に12％増加した。2020年時点で、米国の子供の半数以上が ロブロックスを利用しており、 同社はプラットフォーム上での児童の性的搾取や不適切なコンテンツへの露出に対処できていないとして、繰り返し厳しい批判を受けている。
ROOSTの創設メンバーは、その全リソースを活用し、プロジェクトの具体化にあたり、資金提供、ツールや専門知識の提供など、様々な形で協力していく予定です。また、このイニシアチブは、主要なAI基盤モデル開発者と提携し、コンテンツセーフガードのための「実践コミュニティ」を構築すると発表しています。これには、精査済みのAIトレーニングデータセットの提供や、安全性におけるギャップのdentなどが含まれます。.
この取り組みでは、「既存のツール」へのアクセス性を高め、加盟組織のさまざまな検出および報告技術を効果的に統合し、他の企業がより簡単に導入できる統合ソリューションを実現します。.
ロブロックスとディスコードが評判の回復に取り組んでいる
とともに 、 ディスコードも、大人が監督なしで子供にメッセージを送ることをプラットフォーム側が阻止しなかったとして、特に非難された。
Robloxのエンジニアリング、信頼、安全担当副dent Naren Koneru氏は、ROOSTが企業がAPI呼び出しを通じて統合できるAIモデレーションシステムをホストする可能性があると述べています。しかし、ROOSTのAIモデレーションツールがどのような範囲をカバーするのかについては、まだ不明瞭な点があります。.
例えば、Discordは、2023年にMetaとGoogleと共に参加したクロスプラットフォーム情報共有プロジェクト「Lantern」を基盤として貢献していくと述べている。しかし、音声クリップ内の冒涜、人種差別、いじめ、セクスティング、その他の不適切なコンテンツを検出するRobloxのAIモデルのアップデート版も含まれる可能性があり、同社はこれを今年中にオープンソースとして公開する予定だ。.
これらのツールが、Microsoft の PhotoDNA 画像分析ツールなどの既存の第一線 CSAM 検出システムとどのように連携するかはまだ不明です。.
ROOSTの一部であることに加えて、 Discordは ユーザーがミュートした相手に通知することなく、受信したメッセージや通知を非表示にできる新しい「無視」機能もリリースしました。
「Discordでは、安全は公共の利益だと考えています」と、Discordの最高法務責任者であるクリント・スミス氏はROOSTの発表で述べています。「私たちは、Discordだけでなく、インターネット全体を、特に若者にとって、より良く、より安全な場所にすることに尽力しています。」
現時点で、この取り組みはマクガバン財団、Future of Online Trust and Safety Fund、ナイト財団、AI Collaborativeなどの慈善団体の支援を受けて、最初の4年間の運営に必要な2,700万ドル以上を集めています。.
ROOST組織は、児童の安全、人工知能、 オープンソース技術、 そして「暴力的な過激主義への対策」の専門家からも支援を受ける予定です。これはまさに、児童性的虐待とそのコンテンツの世界的な拡散を抑制するために、テクノロジー分野の優秀な頭脳が集結した集大成と言えるでしょう。オープンソースであるため、世界中の開発者コミュニティによる継続的なアップデートと改善が可能となり、ROOSTが構築しようとしているこの強力なシステムは、時が経つにつれて進化し続けるでしょう。
