AIディープフェイクが米当局による子供たちの保護を困難にしている――レポート

児童の性的に露骨なAIディープフェイクの膨大な量は、米国での法執行機関が苦境に立たせるもので、実際の苦境にある子供たちと偽物を見分けるのが困難になっています。検察官や安全グループは警告しました。ガーディアンのレポートによると、これらの画像は非常にリアルなため、実際の子供が虐待されたかどうかを知ることが困難になっています。.

関連記事: ChatGPT搭載のぬいぐるみ「Poe」が子供たちに読み聞かせを行う

ミネソタ州に拠点を置く児童安全非営利団体「Zero Abuse Project」のシニア弁護士であるKristina Korobov氏は、このグループは、性的虐待を受けていない実際の児童の画像がAIを使用して作成されたという報告に気づき始めたと言います。「しかし、今ではその顔が虐待された児童のものに貼り付けられています」と彼女は言います。

DoJ検察官、「AIにより溺れている」と述べる

「時には、ビデオや画像の寝具や背景、犯人、またはそれが由来するシリーズを認識できますが、今は別の児童の顔が貼り付けられています」と、Korobov氏はガーディアンの取材に応じて語りました。

AIモデルは、1日あたり数千枚の、実際の写真と類似した画像やビデオを生成することができます。レポートによると、これにより、ポルノグラファーがダークウェブやメインストリームのインターネット上で不快なコンテンツを共有するために技術を利用しやすくなりました。

当局にとって、これは悪夢となっています。「法執行の観点から、児童に対する犯罪はリソースが最も不足している分野の一つであり、AIからのコンテンツが爆発的に増加するでしょう」と米司法省（DoJ）の検察官は述べ、さらに付け加えました：

「すでにこの問題で溺れているようなものだ」

米国失踪・搾取児童対策センター（NCMEC）によると、2023年にはオンライン児童虐待の報告が12%増加し、3620万件に達しました。報告の大部分は、性的虐待を受けた児童の実際の写真や動画の流通に関連していましたが、センターはまた、児童の性的搾取に関わるAIディープフェイク画像や動画に関する4700件の報告も受けました。

NCMECは、犯罪者がAIを使用する最も一般的な方法の一つに、既存のオンライン画像を編集して性的に露骨な内容にすることが含まれていると述べた。犯罪者はまた、児童虐待への勧誘方法を詳細に指示する生成型AIチャットボットも利用している。

現在の法律ではAIディープフェイクに対応しきれていない

犯罪と見なせる範囲にギャップがあるようだ。多くの管轄区域では、児童を性的対象として描く画像を所持することは犯罪だが、法律はまだAI生成画像を取り込む段階に至っていない。

「連邦システムで事件を起訴する際、」DoJの検察官は述べた、「AIは私たちが起訴できる内容を変えるものではないが、多くの州ではそれが実在する子供であることを証明する必要がある。」検察官はさらに次のように付け加えた：

「画像の正当性を争うことは、裁判で問題を引き起こすことになる。もし私が弁護側弁護士なら、まさにその点を主張するだろう。」

法律が施行されたとしても、犯罪者を摘発するには依然として対応技術が必要であり、現在には大きなギャップがある。児童安全団体は、警察署が多数の要請で溢れる可能性があると警告している。

関連記事: 国連事務総長、AIが核戦争の可能性を高めると警告

AIを使用して生成された児童の性的に露骨な画像は、2022年頃にオンラインでの存在感を増し始めました。これはOpenAIによるChatGPTのリリースと時期を同じくしています。これはガーディアンのレポートによるものです。

NCMECは、AI企業が搾取的なコンテンツの生成と拡散を防ぐために十分な取り組みを行っていないと非難している。昨年、AI企業5社だけが自主的にセンターに報告書を提出したにすぎなかった。それと比較して、ソーシャルメディアプラットフォームの70％が報告書を共有したと述べた。