AIトレーニングデータセットには、児童性的虐待に関する深刻なレベルの資料が含まれている

スタンフォード・インターネット・オブザーバトリー（SIO）が最近実施した調査では、Stable Diffusionを含む一般的なAIテキスト画像生成モデルの学習に利用されているオープンデータセットにおいて、児童性的虐待素材（CSAM）の既知の画像が数百枚dentされました。この調査結果は、高度な人工知能（AI）モデルの開発において、公開データセットが不穏な形で利用されている実態を明らかにしています。

不穏なトレーニングデータソースの発見

SIOの調査により、これらのAIモデルは、主要なソーシャルメディアサイトや人気アダルト動画サイトなど、様々なプラットフォームから収集された数十億枚の画像で構成されるLAION-5Bデータセットに含まれるCSAM（児童性的虐待）を直接学習していたことが明らかになりました。この事実は、違法で有害なコンテンツに汚染されたデータセットの使用による児童搾取の意図しない永続化に対する懸念を引き起こしています。

問題に対処するための迅速な行動

研究者たちは、元ネタを特定するとdentに、米国の国立行方不明・搾取児童センター（NCMEC）とカナダ児童保護センター（C3P）に画像のURLを報告し、削除プロセスを開始しました。PhotoDNAなどのハッシュツールの使用は、オンライン児童性的搾取・虐待撲滅に取り組む非営利団体が管理するデータベースと画像のフィンガープリントを照合する上で重要な役割を果たしました。

オープンデータセットのクリーニングにおける課題

学習用データセットにおけるCSAMの混入を最小限に抑える方法は存在するものの、報告書は、中央機関が存在しないオープンデータセットのクリーニングや配信停止の難しさを強調しています。これらのデータセットをホストする主体が存在しないことは、データセットの完全性と安全性を確保する取り組みを複雑化させます。本調査は、AI学習用データに違法コンテンツが不注意に混入するのを防ぐための積極的な対策の必要性を強調しています。

将来のデータセット取り扱いに関する安全推奨事項

これらの調査結果を踏まえ、本報告書では、データセットの収集、モデルの学習、そしてスクレイピングされたデータセットで学習されたモデルのホスティングに関する安全上の推奨事項を概説しています。MicrosoftのPhotoDNAなどの検出ツールを用いて、画像を既知のCSAMリストと徹底的に照合することを推奨しています。また、AI技術の倫理的かつ合法的な利用を確保するため、NCMECやC3Pなどの児童安全団体との連携も推奨されています。

AIが進化を続けるにつれ、意図しない違法行為への加担を防ぐために、学習データセットの責任ある取り扱いが極めて重要になります。SIOの調査はAIコミュニティへの警鐘となり、関係者に対し、データセットのキュレーション、モデルの学習、そして関連する児童保護機関との連携において厳格な対策を講じるよう促しています。

これらの暴露を受けて、AIコミュニティは倫理基準を見直し、学習データセットにおけるCSAMの意図しない使用に対処するための断固たる行動をとるよう促されています。推奨される安全対策を実施することで、業界は責任ある倫理的な方法でAI技術の発展に貢献し、未検証のデータセットソースによる意図しない結果を防ぐことができます。

SIOの調査結果は、技術の進歩が倫理的なAI開発へのtronコミットメントを伴わなければならない時代において、警戒を怠らないことの重要性を強調しています。AI技術が社会の価値観と整合し、脆弱な立場にある人々の福祉を最優先する形で進歩していくためには、研究者、業界リーダー、そして児童保護団体の連携が不可欠です。