AI 生成の偽ヌードが急増、プライバシーと生命に脅威をもたらす

人工知能 (AI) ツールの台頭は、偽ポルノ画像や動画の恐るべき急増を招き、プライバシーや搾取に関する重大な懸念を引き起こしています。主に女性やティーンエイジャーである被害者は、AI 生成の偽ヌードにもたらされる可視性に対して準備ができていません。

プライバシー侵害

YouTube のインフルエンサーであるガビ・ベルは、インターネット上で流通している偽ヌード写真に自分の画像が使われていることを発見しました。この画像は彼女を屈辱的な状況で描いていましたが、彼女はこのようなコンテンツに一度も同意していませんでした。ベルの経験は独特なものではなく、有名人や普通のティーンエイジャーを含む多くの人々が AI 生成の偽ヌードの犠牲となっています。これらの偽画像は恥じらいを煽ったり、金銭を要求したり、私的な願望の場として利用されたりします。

前例のない偽のヌード画像の増加

人工知能により、偽のポルノ画像や動画が前例のない勢いで急増しています。AI 生成のポルノ写真をホストすることで知られる上位 10 のウェブサイトにおいて、業界アナリストのジェネヴィーヴ・オーによれば、2018 年以降、偽のヌード画像は 290% 以上も急増しました。これらのサイトには有名人や政治指導者だけでなく、同意なく肖像権が悪用された無防備な一般の人々も含まれています。

法的保護の欠如

ディープフェイクポルノを規制する連邦法が存在しないため、AI 生成の偽ポルノの被害者は救済手段が限られています。規制を制定した州はごくわずかであり、大きな法的空白が生じています。バイデン大統領による最近の AI に関する行政命令では、企業が AI 生成コンテンツにラベルを付けることを推奨していますが、義務化されていません。法律の専門家は、AI 生成の偽画像は膨大なデータセットから作成されるため、個人の肖像に関する著作権保護の対象外となる可能性があると指摘しています。

女性とティーンエイジャーが特にリスクにさらされている

AI によって生成された偽のヌード写真は、女性や思春期の若者にとって重大なリスクとなります。彼らは、突然の可視化に対して準備ができていないことが多いためです。ディープフェイク監視企業である Sensity AI の調査によると、ディープフェイク画像の 96% がポルノであり、その 99% が女性を対象としています。Genevieve Oh 氏が偽のポルノ画像を掲載している上位 10 ウェブサイトを調査した結果、2023 年だけで 415,000 枚以上の画像がアップロードされ、総再生回数は約 9,000 万回に達することが明らかになりました。

AI 生成のポルノ動画の急増

AI によって生成されたポルノ動画もウェブ上で急増しています。2023 年には、ディープフェイクコンテンツを扱う最も人気のある 40 のウェブサイトにおいて、143,000 本以上の偽の動画が追加され、2016 年から 2022 年の間に新規追加された動画の総数を上回りました。これらの動画は合計で 42 億回以上視聴されています。連邦捜査局（FBI）は、性的脅迫の増加を警告しており、2023 年 9 月時点で「セクストーション」キャンペーンの被害者は 26,800 人以上に上っています。

Google の限定的な保護措置

人気検索エンジンであるGoogleは、同意のない性的画像が検索結果に表示されないよう防止するポリシーを設けています。しかし、ディープフェイク画像に対する保護はそれほど強固ではなく、AIによって生成された偽のポルノ画像が検索結果に目立つ形で表示されてしまうことがあります。Googleはこの保護を強化すべく取り組んでおり、個別のリクエストによるコンテンツ削除を必要としない防護策の構築を目指しています。

クリエイターへの処罰における課題

AIによって生成された偽のポルノコンテンツのクリエイターを処罰することは困難です。通信品位法第230条は、ソーシャルメディア企業に対してプラットフォーム上に投稿されたコンテンツに関する責任を免責しており、ウェブサイト側がこれらの画像を監視するインセンティブがほとんど残っていません。被害者は自身の似顔絵の削除を請求できますが、AI生成コンテンツは膨大なデータセットから作成されるため、著作権侵害や肖像権侵害を証明することが難しいケースがあります。

州レベルでの取り組みと多様な規制

カリフォルニア州、テキサス州、バージニア州を含む少なくとも9つの州がディープフェイクを対象とした立法を可決しました。しかし、これらの法律は範囲が異なり、被害者が刑事告訴を行えるものもあれば、民事訴訟のみを認めるものもあります。法的措置の対象となる責任者を特定することは複雑な作業となり得ます。

より強力な規制の必要性

AI生成画像や動画の規制強化の動きは、主に大量配布の防止と選挙干渉への懸念に対処することを目的としています。しかし、これらの規則は、小規模なグループ間で共有されたとしても個人の人生に甚大な影響を与える可能性のあるディープフェイクポルノによる害を軽減する効果はほとんどありません。

AI生成の偽ヌードの蔓延は、特に女性や若年層にとってプライバシーと人格の尊厳に対する深刻な脅威です。包括的な連邦法の欠如や、そのようなコンテンツの作成者に対する処罰の難しさは、より強力な規制と保護の緊急性を浮き彫りにしています。AIがさらに進展するにつれ、デジタル時代における個人が搾取や危害から守られるよう、AI生成の偽ポルノという増大する課題に対処することがますます重要になっています。