インターネット ウォッチ財団 (IWF) は、AI ツールの進歩に伴って、インターネット上で AI が生成した児童性的虐待コンテンツ (CSAM) の蔓延が今後も増加し続ける可能性があると懸念しています。.
関連記事： AIディープフェイクのせいで米国当局が子供を守るのが難しくなっている - 報告書
安全監視機関は、生成AIツールが高度化するにつれて、本物の画像や動画とAIが生成した偽のコンテンツを区別することが困難になっていると指摘している。同機関によると、2024年のAI生成画像は、 も「リアル」という。
インターネットウォッチ財団はCSAMの増加を予測
IWFは、 AI技術の進歩により普及し、悪質な行為者がそれを悪用することで、AIが生成したCSAMがインターネット上にさらに多く流出するのではないかと懸念している。安全監視機関であるIWFは、インターネット上でAIが生成したCSAMが増加していることを既に指摘している。
同団体は既にCSAMの改ざん事例を指摘しているほか、成人向けポルノ映像に子供の顔が使われていた事例も確認されている。IWFによると、コンテンツの中には約20秒の長さの動画も含まれていたという。.
IWF の最高技術責任者であるダン・セクストン氏は、技術が急速に成長しているため、AI ビデオツールが AI 画像生成ツールと同じトレンドに従えば、より多くの AI CSAM が出現する可能性があると明らかにした。.
「同じ傾向が続くのであれば、もっと多くのビデオが見られるようになるだろうと暫定的に言えるだろう」と彼は語った。.
セクストン氏は、将来のAIビデオは「より高品質でリアル」になる可能性が高いとも付け加えた。
IWFのアナリストによると、ダークフォーラムで小児性愛者によって同組織が検証した動画のほとんどは、部分的なディープフェイクだった。今回のケースでは、オンラインで無料で入手可能なAIモデルが利用され、既存のCSAM動画やアダルトポルノ上の画像（既知のCSAM被害者の画像を含む）が操作された。.
同組織はそのようなビデオを 9 本発見したが、完全に AI で作成されたビデオのうち少数は基本的な品質だった。.
(1/4) #AI による児童性的虐待画像の現状 – 昨年、私たちは、リアルな#AI生成による児童性的虐待画像の蔓延について警鐘を鳴らした最初の企業の 1 つでした… pic.twitter.com/s4igkjHH78
— インターネットウォッチ財団（IWF）（@IWFhotline） 2024年7月22日
監視機関はCSAMの製造を犯罪化したいと考えている
IWFは現在、そのようなコンテンツの制作を犯罪とする法律の制定を推進しており、これにはコンテンツ作成のためのガイドの作成も含まれます。また、CSAMの作成を可能にするツールやプラットフォームの開発も犯罪とすべきです。.
これは、今年実施された単一のダークウェブフォーラムの調査で、1か月間にわたって12,000枚の新しいAI生成画像が投稿されたことが明らかになったことを受けてのことだ。.
IWFによれば、これらの画像のうち10枚中9枚は本物らしく、実際のCSAMを対象とする英国法に基づいて起訴される可能性があるという。.
関連記事：テキサス州の男性が仮想通貨で児童ポルノを購入した罪で有罪判決
昨年、全米行方不明・被搾取児童センター（NCMEC）は、受けたと発表しました。中には、以前にアップロードされた画像を改変し
IWF CEO スージー・ハーグリーブス氏は、CSAM の増殖を制限するために生成 AI ツールを管理する必要性を強調しました。.
「適切な管理がなければ、生成AIツールはオンラインの捕食者たちに、最も倒錯的で不快な妄想を実現するための遊び場を与えてしまう」とハーグリーブス氏は述べた。.
ハーグリーブス氏は、IWF は商業的な児童性的虐待サイトで CSAM が共有され、販売されるケースが増えていることを確認し始めていると付け加えた。.
ガーディアン紙によると、虐待を報告するためのホットラインを運営する別の組織が、犯罪者がオンラインプラットフォーム上でAI製のCSAMを販売しているのを発見したことを明らかにした。.
