AI生成の児童性的虐待コンテンツの急増に対抗するようテクノロジー企業に要請

昨年は、英国の慈善団体インターネット・ウォッチ財団（IWF）によって「記録上最も極端な年」と呼ばれ、オンライン上で275,652件もの児童性的 虐待 画像が発見された。そのうち恐ろしいほど多くのケースは、加害者が被害者を強制して露骨な画像を作成させたものだった。IWFは、規制が遅れ、人工知能が

「URL 1 つにつき、1 枚、12 枚、数百枚、または数千枚の個別の児童性的虐待画像やビデオが公開される可能性がある」と報告書は述べている (92%) (ウェブカメラで自ら実行、強制、またはソーシャル ネットワークの支援を受けた)。.

IWFの調査結果

IWFによると、これらの数字は「積極的調査」と、50以上の報告ポータルを通じて世界中に寄せられた約40万件の報告の分析から得られたもので、前年比8%の増加を示しています。.

米国はウェブサイトの14.8%、41,502のURLでトップの国となり、ホスト国としての米国の割合は、過去1年間で34%増加し、添付されたウェブサイト全体の3分の1を占めました。.

IWFによると、分析の結果、3歳から6歳の児童を撮影した自作自演動画2,401本がこのリストから除外された。これらの児童のほとんどは少女であり、これは、今日「日和見主義者」とみなされる虐待者が、10代の児童だけでなく、幼い児童に対しても性的虐待を非常に積極的に行っていることを示す兆候である。.

取るべき対策 

IWFは、「テクノロジー企業とオンラインプラットフォーム」は、政府による非常に困難な規制措置の実施や、英国におけるオンライン安全法の施行に時間を浪費するよりも、子供たちのオンライン環境を守るためのセキュリティ対策を早急に強化すべきだと主張しています。IWFは、コンテンツカテゴリーも2022年と比較して22%増加したことを明らかにしました。IWFによると、このような過激なコンテンツの視聴頻度が高まっていることはトレンドの一つであり、2021年から2022年にかけてカテゴリーAのコンテンツの量は38%増加しました。. 

性的脅迫（加害者が子供の写真やファイル、情報、動画などを利用して被害者を脅迫し、さらに写真や金銭を要求する行為）の件数も増加している。同機関は、2021年にこの件数を記録する際、このメカニズムを導入したが、この種の事件はわずか6件だった。昨年は、性的脅迫に関連する事件が176件あったと述べている。同財団は、 AIが 受け取り生成する証拠が、インターネット上の子供たちにとって深刻な脅威になりつつあると強調した。2023年には、IWFは、児童性的虐待の自動生成画像を含むウェブページを51件処理し、そのうち38件は本物のように見えると結論付けた。 

このようにして、それらは「本物の」画像として統計レポートに含まれていました。さらに、他の228のURLにはAI生成コンテンツがありました。IWFが精査した資料のうちコンピューター生成のものはごくわずかですが、この慈善団体は「急速な成長の可能性」に警戒しています。これは特に、AIを使用して児童ポルノ資料を作成または配布する方法に関するマニュアルを公開するなどの分野で当てはまり、既存の法的枠組みから外れる可能性があります。IWFは、加害者がどのように行動するかを説明するテキスト マニュアルを DWで見つけたと述べています。「私たちは以前にもこのような行動を見たことがありますが、犯罪者が共謀して互いにAIを自己防衛目的で使用するよう助言し、奨励しているという証拠がこれが初めてであるという事実は特に憂慮すべきことです」とIWFはコメントしたとされています。