スタンフォードレポート：AIトレーニングデータにおける児童ポルノの発見

スタンフォード・インターネット・オブザーバトリーは、AI画像生成器のトレーニングに使用されるデータセットLAION-5Bに、1,000枚以上の偽の児童性的虐待画像があるという憂慮すべき発見をしました。4月に公開されたこの発見は、AIトレーニング資料の収集に使用されるソースと方法について深刻な懸念を呼び起こしています。

ロンドンに拠点を置くStability AIのStable Diffusion AI画像メーカーに関連するLAION-5Bは、ソーシャルメディアやポルノグラフィウェブサイトからコンテンツをサンプリングすることでこれらの画像を蓄積しました。これらのプラットフォームの広範な使用と潜在的な影響力を考慮すると、AIトレーニング資料にこのようなコンテンツが発見されるのは驚くべきことです。

テクノロジーで課題に対処する

これらの画像を特定するためのスタンフォードの研究者たちは、虐待コンテンツを直接見ることはありませんでした。代わりに、MicrosoftのPhotoDNAテクノロジーを利用しました。これは、ハッシュ化された画像をさまざまなデータベースからの既知の虐待コンテンツと照合することで、児童虐待画像を検出するために設計されたツールです。

スタンフォードチームの発見は、米国とカナダの関連する非営利団体へ伝えられ、AIトレーニングデータセットのキュレーションにおいてより厳格な措置を講じる緊急性を強調しています。研究者たちは、有害なコンテンツをフィルタリングするためにPhotoDNAのようなツールの使用を将来のデータセット作成に提案しています。しかし、彼らはまた、集中管理機関がない場合、オープンデータセットのクリーンアップにおける課題も指摘しています。

このレポートへの対応として、LAION（Large-scale Artificial Intelligence Open Network）は、再公開する前に安全性を確保するために一時的にデータセットを削除しました。LAIONは、違法コンテンツに対するゼロ寛容政策と、このような機微な素材を扱う際の注意の必要性を強調しました。

より広範な影響と対応

この問題は、問題のデータセットに限定されません。スタンフォードのレポートは、虐待画像の数がわずかでも、AIツールが数千のディープフェイクを生成することを可能にし、大きな影響を与える可能性を示唆しています。これは、実際の被害者の虐待を永続させるだけでなく増幅するため、若者や子供たちにとって世界的な脅威となります。

多くの生成AIプロジェクトの市場投入の急ぎは批判されており、スタンフォード・インターネット・オブザーバトリーの首席技術者であるDavid Thielのような専門家は、データセットの作成により厳格な注意を払うことを提唱しています。Thiel氏は、このような広範なインターネット全体のスクレイピングは研究活動に限定され、徹底的な審査なしにオープンソース化すべきではないと強調しています。

これらの発見を踏まえ、LAIONデータセットの主要なユーザーであるStability AIは、悪用リスクを軽減するための措置を講じました。新しいバージョンのStable Diffusionモデルは、有害なコンテンツの作成をより困難にするように設計されています。しかし、昨年リリースされた古いバージョンはまだリスクを抱えており、他のアプリケーションで広く使用されています。

この問題に対する国際的な反応は様々です。米国では、政府がAIモデルがもたらすリスクを評価するためのAI安全研究所を立ち上げています。同様に、オーストラリアはAI作成の児童性的虐待資料の共有を防ぐための新しいアルゴリズムを実装しています。イギリスでは、主要なAI開発者がリリース前に新しいモデルをテストするために政府と協力することに合意しました。

イギリスで開催されたグローバルAIサミットでは、米国やインド、欧州連合を含む25カ国以上が「ブレッチリー宣言」に署名しました。この合意は、AI監督に対する共通のアプローチを確立することを目的としており、AIリスクを責任を持って管理するという国際社会のコミットメントを強調しています。

AIトレーニングデータセットにおける児童ポルノの発見は、深い倫理的および安全上の懸念を提起します。これは、AI技術の開発においてより厳格なデータキュレーションと監視メカニズムの必要性を浮き彫りにします。AIが進化し、生活のさまざまな側面に浸透するにつれて、これらの技術の倫理的な使用と安全な展開を保証することがますます重要になっています。