テクノロジー企業にAI生成児童性的虐待材料の急増に対処するよう要請

昨年、英国の慈善団体であるインターネット・ウォッチ・ファウンデーション（IWF）は、「過去最悪の年」と呼ばれました。同団体は、オンライン上で275,652件の児童性的虐待画像を発見し、その恐ろしい数の加害者が被害者を脅迫して性的な素材を作成させていることを明らかにしました。規制の遅れと人工知能（AI）の台頭により、テクノロジー企業やオンラインプラットフォームに迅速な行動を呼びかけています。

「各URLは、1つ、12個、数百、あるいは数千の個別の児童性的虐待画像や動画しか明らかにしない可能性があります」とレポートは述べています（92%）（自身または強制またはソーシャルネットワークの支援によるWebカメラ経由での行為）。

IWFの調査結果

IWFによれば、これらの数字は「積極的な検索」と、50以上の報告ポータルを通じて世界中のほぼ40万件のレポートの分析から導き出されました。これは前年比8%の増加です。

米国は14.8%のウェブサイト、41,502のURLを有するトップ国でした。これは、直近の年の34%から1つの割合増加し、付随するウェブサイトの3分の1を占めています。

IWFは、分析により、3〜6歳の児童による自己生成ビデオが2,401件含まれていることが示されたと述べました。その多くは女の子であり、これは「機会主義者」と見なされる虐待者が、現在、思春期の子どもだけでなく、幼い子どもたちに対しても性的虐待において非常に活発であることを示す兆候です。

取るべき措置 

IWFの見解では、「テクノロジー企業やオンラインプラットフォーム」は、政府が非常に痛みを伴う規制作成行動を取るか、英国のオンライン・セーフティ法の下でこの活動が施行されるまでさらに時間を費やすことに依存するのではなく、すぐに子どものオンラインセキュリティ対策を強化すべきです。IWFは、カテゴリ別の素材も2022年と比較して22%増加したことを明らかにしました。IWFによれば、このような過激なコンテンツがますます頻繁に視聴されていることは、2021年から2022年にかけてカテゴリAのコンテンツの量が38%増加したという傾向の一つです。 

セクストーション（子供の写真/ファイル、情報、またはビデオを使用し、加害者が被害者からさらに写真や金を脅し取る行為）の件数も増加しています。この機関は、2021年にトールリングメカニズムを導入した際に、この種のケースをわずか6件記録しました。昨年、同機関は176件のセクストーション関連ケースがあったと述べています。財団は、AIが受信および生成する証拠が、インターネット上の子どもたちにとって深刻な脅威になりつつあることを強調しています。2023年、IWFは、児童性的虐待の自動生成画像を含む51のウェブページを処理し、そのうち38件は本物のように見えたという結論を出しました。

これにより、それらは統計レポートで「本物」の画像として分類されました。さらに、他の228のURLにはAI生成コンテンツが含まれていました。IWFが精査した素材のわずかしかコンピュータ生成ではありませんが、慈善団体は「急速な成長の可能性」に警鐘を鳴らしています。特に、AIを通じて児童ポルノの作成や配布の方法に関するマニュアルの出版などのドメインでは、既存の法的枠組みの外側にある可能性があります。IWFは、DWで説明されているテキストマニュアルに遭遇しました。そこでは、加害者が「私たちは以前からこのような行動を見てきましたが、犯罪者が自己防衛のためにAIを使用することを互いに助言し、奨励するために共謀しているという最初の証拠が存在することは特に懸念されます」とIWFは述べました。