AIトレーニングデータセットに懸念されるレベルの児童性的虐待材料（CSAM）が潜む

スタンフォード・インターネット・オブザーバトリー（SIO）による最近の調査では、Stable Diffusionを含む人気のあるAIテキストから画像生成モデルのトレーニングに使用されるオープンデータセット内で、数百の既知の児童性的虐待材料（CSAM）の画像が特定されました。この発見は、高度な人工知能（AI）モデルの開発において、公開されているデータセットがどのように使用されているかという懸念を浮き彫りにしました。

懸念されるトレーニングデータソースの解明

SIOの調査により、これらのAIモデルが、主流のソーシャルメディアウェブサイトや人気のあるアダルトビデオサイトなど、さまざまなプラットフォームから収集された数十億の画像で構成されるLAION-5Bデータセットに含まれるCSAMで直接トレーニングされていたことが明らかになりました。この発見は、違法で有害なコンテンツで汚染されたデータセットの使用を通じて、児童搾取が意図せず永続化する可能性について懸念を呼び起こしています。

問題解決のための迅速な対応

ソース素材を特定した後、研究者は米国の行方不明・搾取された子供のための国立センター（NCMEC）およびカナダの子供保護センター（C3P）に画像URLを報告することで削除プロセスを開始しました。PhotoDNAなどのハッシュツールの使用は、オンラインでの児童性的搾取と虐待と戦う非営利団体が維持するデータベースと画像の指紋を一致させる上で重要な役割を果たしました。

オープンデータセットのクリーンアップにおける課題

トレーニングデータセット内のCSAMの存在を最小限に抑える方法はありますが、レポートは、中央権限のないオープンデータセットのクリーンアップや配布停止における課題を強調しています。これらのデータセットのホスティングエンティティの欠如は、その整合性と安全性を確保する取り組みを複雑にしています。この研究は、AIトレーニングデータへの違法なコンテンツの意図しない含まれを防ぐための積極的な措置の必要性を強調しています。

将来のデータセット処理のための安全対策の推奨

これらの発見を踏まえ、レポートはデータセットの収集、モデルのトレーニング、スクレイピングされたデータセットでトレーニングされたモデルのホスティングに関する安全対策の推奨事項を概説しています。MicrosoftのPhotoDNAなどの検出ツールを使用して、既知のCSAMリストに対して画像を徹底的にチェックすることを提唱しています。また、NCMECやC3Cのような子供安全組織との協力も推奨され、AI技術の倫理的かつ法的な使用を確保します。

AIが進展するにつれて、意図しない違法活動への貢献を防ぐために、トレーニングデータセットの責任ある処理が最重要課題となります。SIOの調査は、AIコミュニティに警告を発し、データセットのキュレーション、モデルのトレーニング、関連する子供保護機関との協力において厳格な措置を採用するようステークホルダーに促しています。

これらの発見に対応して、AIコミュニティは倫理基準を再評価し、トレーニングデータセットでのCSAMの意図しない使用に対処するための決定的な行動を取るよう促されています。推奨される安全対策を実装することで、業界は責任あるかつ倫理的な方法でAI技術の開発に貢献し、チェックされていないデータセットソースの意図しない結果から守ることができます。

SIOの調査の発見は、技術的進歩が倫理的なAI開発への強いコミットメントを伴わなければならない時代において、警戒心の重要性を強調しています。研究者、業界リーダー、子供保護組織間の協力は、AI技術が社会的価値観と一致し、脆弱な個人の福祉を優先する manner で進展することを確保するために不可欠です。