Internet Watch Foundation、AIの進歩がCSAMを悪化させる可能性があると警告

著者

Enacy Mapakame 3分で読了公開 22年 2024月

IWFは、生成AIツールの利用が容易になり高度化するにつれ、AI生成の児童性的虐待画像（CSAM）が増加する可能性があるとして警告しています。
IWFはすでに、2024年に作成されたCSAMは2023年よりも「よりリアル」になっていると指摘しています。
監視機関は現在、CSAMの作成および拡散を犯罪とする法律の整備を求めています。

インターネット・ウォッチ・ファウンデーション（IWF）は、AIツールの進歩によって刺激され、インターネット上のAI生成児童性的虐待画像（CSAM）の蔓延が続く可能性を懸念しています。

安全監視機関は、生成AIツールが洗練されるにつれて、本物の画像や動画と偽のAI生成コンテンツを区別することが困難になっていると示唆しています。同機関によると、2024年に生成されたAI画像は、2023年に最初に目にしたものよりもより「リアル」になっています。

インターネット・ウォッチ・ファウンデーション、CSAMの増加を見る

IWFは、より多くの AI生成CSAMがインターネットに流入することを懸念しており、卑劣な行為者が AI技術の進歩を利用し、ツールが使いやすくなり普及しているためです。安全監視機関はすでにインターネット上のAI生成CSAMの増加に気づいています。

同機関はすでにCSAMの操作事例に気づいており、他のケースでは成人ポルノ映像に子供の顔を使用していました。IWFによると、一部のコンテンツは約20秒の動画でした。

IWFのチーフテクノロジーオフィサーであるDan Sexton氏は、AI動画ツールがAI画像生成ツールの傾向と同じように追従する場合、AI CSAMがさらに出現する可能性があると明らかにしました。技術は急速に成長しています。

「同様の傾向が続くと仮定すれば、より多くの動画が見られるようになるでしょう」と彼は述べました。

Sexton氏は、将来のAI動画は「より高品質でリアル」になる可能性も高いと付け加えました。

IWFの分析官によると、組織がペドフィールのダークフォーラムでレビューした動画の大部分は部分的なディープフェイクでした。この場合、オンラインで自由に利用可能なAIモデルが、既存のCSAM動画や成人ポルノ映像、および既知のCSAM被害者の画像を含む画像を操作するために利用されました。

同機関は9つのそのような動画を見つけましたが、少数の完全にAIで作成された動画は基本的な品質でした。

(1/4) #AI 児童性的虐待画像の状況 – 昨年、私たちはリアルな#AI生成児童性的虐待画像の蔓延について最初に警報を鳴らした組織の一つでした… pic.twitter.com/s4igkjHH78

— インターネット・ウォッチ・ファウンデーション (IWF) (@IWFhotline) 2024年7月22日

監視機関、CSAMの生産を犯罪化することを望む

IWFは現在、そのような素材の生産を犯罪化する法律、およびそのようなコンテンツを作成するためのガイドラインの作成を犯罪化する法律を推進しています。また、CSAMの作成を可能にするツールやプラットフォームの開発も犯罪化するべきです。

これは、今年行われた単一のダークウェブフォーラムの研究で、1か月の期間中に1万2,000件の新しいAI生成画像が投稿されていたことが明らかになったことを受けてのことです。

IWFによると、それらの画像の10件中9件はリアルなものであり、実際のCSAMを扱う英国の法律の下で起訴可能でした。

関連記事: テキサス州の男性、暗号通貨で児童ポルノを購入した罪で有罪判決

昨年、行方不明・搾取された子供のための国立センター（NCMEC）は、AI を用いて多様な方法で犯罪行為を行う者たちから多数の報告が寄せられたと発表しました。例えば、テキストプロンプトを入力して児童虐待画像を作成するケースなどがありました。一部の事例では、加害者たちが以前にアップロードされた画像を改変し、性的に露骨で虐待的な内容に作り変えていました。

IWFのCEOであるSusie Hargreaves氏は、CSAMの蔓延を制限するために生成AIツールを規制する必要性を強調しました。