インターネット・ウォッチ財団はAIの進歩がCSAMを悪化させる可能性があると警告

インターネット ウォッチ財団 (IWF) は、AI ツールの進歩に伴って、インターネット上で AI が生成した児童性的虐待コンテンツ (CSAM) の蔓延が今後も増加し続ける可能性があると懸念しています。.

関連記事： AIディープフェイクにより、米国当局が子供たちを守ることが困難になっている – 報告書

安全監視機関は、生成型AIツールが高度化するにつれて、本物の画像や動画と偽のAI生成コンテンツを区別することが難しくなっていると指摘している。同機関によると、2024年に生成されたAI画像は、 も「リアル」 という。

インターネットウォッチ財団はCSAMの増加を予測

IWFは、 それを悪用することで、AIが生成したCSAMがインターネット上に 普及し、悪質な行為者が AI技術の進歩により さらに多く流出するのではないかと懸念している。安全監視機関であるIWFは、インターネット上でAIが生成したCSAMが増加していることを既に指摘している。

同団体は既にCSAMの改ざん事例を指摘しているほか、成人向けポルノ映像に子供の顔が使われていた事例も確認されている。IWFによると、コンテンツの中には約20秒の長さの動画も含まれていたという。.

IWF の最高技術責任者であるダン・セクストン氏は、技術が急速に成長しているため、AI ビデオツールが AI 画像生成ツールと同じトレンドに従えば、より多くの AI CSAM が出現する可能性があると明らかにした。.

「同じ傾向が続くのであれば、もっと多くのビデオが見られるようになるだろうと暫定的に言えるだろう」と彼は語った。.

セクストン氏は、将来のAIビデオは「より高品質でリアル」になる可能性が高いとも付け加えた。

IWFのアナリストによると、ダークフォーラムで小児性愛者によって同組織が検証した動画のほとんどは、部分的なディープフェイクだった。今回のケースでは、オンラインで無料で入手可能なAIモデルが利用され、既存のCSAM動画やアダルトポルノ上の画像（既知のCSAM被害者の画像を含む）が操作された。.

同組織はそのようなビデオを 9 本発見したが、完全に AI で作成されたビデオのうち少数は基本的な品質だった。.

（1/4） #AI 児童性的虐待素材の状況 – 昨年、私たちは #AIによって生成されたリアルな児童性的虐待画像の蔓延について最初に警鐘を鳴らしたグループの一つでした… pic.twitter.com/s4igkjHH78

— インターネット・ウォッチ財団（IWF）（@IWFhotline） 2024年7月22日

監視機関はCSAMの製造を犯罪化したいと考えている

IWFは現在、そのようなコンテンツの制作を犯罪とする法律の制定を推進しており、これにはコンテンツ作成のためのガイドの作成も含まれます。また、CSAMの作成を可能にするツールやプラットフォームの開発も犯罪とすべきです。.

これは、今年実施された単一のダークウェブフォーラムの調査で、1か月間にわたって12,000枚の新しいAI生成画像が投稿されたことが明らかになったことを受けてのことだ。.

IWFによれば、これらの画像のうち10枚中9枚は本物らしく、実際のCSAMを対象とする英国法に基づいて起訴される可能性があるという。.

関連記事： テキサス州の男性が仮想通貨で児童ポルノを購入した罪で有罪判決

昨年、全米行方不明・被搾取児童センター（NCMEC）は、テキストプロンプトを入力して児童虐待画像を作成するなど、AIを様々な方法で利用した変質者に関する報告を多数受けたと発表しました。中には、以前にアップロードされた画像を改変し、性的に露骨で虐待的な画像に仕立て上げたケースもありました。

IWF CEO スージー・ハーグリーブス氏は、CSAM の増殖を制限するために生成 AI ツールを管理する必要性を強調しました。.

「適切な管理がなければ、生成AIツールはオンラインの捕食者たちに、最も倒錯的で不快な妄想を実現するための遊び場を与えてしまう」とハーグリーブス氏は述べた。.

ハーグリーブス氏は、IWF は商業的な児童性的虐待サイトで CSAM が共有され、販売されるケースが増えていることを確認し始めていると付け加えた。.

ガーディアン紙によると、虐待を報告するためのホットラインを運営する別の組織が、犯罪者がオンラインプラットフォーム上でAI製のCSAMを販売しているのを発見したことを明らかにした。.