親たちはAI生成のヌード画像の蔓延に対して行動を要求

恐ろしい発見として、ある母親と14歳の娘が、ニュージャージー州の高校内でその少女および彼女のクラスメイトのAI生成ヌード画像が流通した後、より強力な保護を求める運動を率いています。同時に、国の反対側では、ワシントン州シアトル郊外で、10代の少年が人工知能を使用して学生の露骨な画像を作成・配布した同様の事件が当局によって調査されています。 

これらの不快な事例は、特に女性や子供を対象とした、AI生成の露骨な素材に対する緊急の保護措置の必要性を浮き彫りにしています。このようなコンテンツの蔓延は前例のないレベルに達しており、独立研究者のGenevieve OhがAP通信に共有した分析によると、今年だけで14万3,000本以上の新しいディープフェイク動画がオンラインに投稿されています。

AI生成のヌード画像の rising menace

ニュージャージー州ウェストフィールドでの事件は今年夏に発生しましたが、学校に知られたのは10月20日でした。女性学生の顔を使用したAI生成画像が、友人グループの間でソーシャルメディアアプリのSnapchat上で流通しました。解決策を切望する影響を受けた家族たちは、現在、立法府に対し、AIモデルやそのサービスを公然と宣伝する様々なプラットフォームを通じて被害者の画像が操作されることに対する強力な保護措置の実装を求めています。

この危機はニュージャージー州に限定されません。シアトル郊外では、10代の少年が同級生の露骨な画像を作成・配布するために人工知能を使用したとされています。この一連の事件は、影響を受けた家族、活動家、および法律の専門家が、全国で統一された保護措置を確立できる連邦規制を求めていることを促しています。このような措置は、被害者を保護するだけでなく、潜在的な加害者に対して明確なメッセージを送ることにもなります。

法的救済の模索

テキサス州、ミネソタ州、ニューヨーク州など、いくつかの州が同意のないディープフェイクポルノを犯罪化する法律を可決しましたが、これらの立法の範囲と効果は異なります。カリフォルニア州やイリノイ州などの州では、被害者が民事裁判所で加害者に対して損害賠償を請求する権利が提供されています。現在、ニュージャージー州は、ディープフェイクポルノを禁止し、それを拡散した者に対して禁錮刑または罰金を含む罰則を科す独自の立法を検討しています。

ニュージャージー州のクリスティン・コラード上院議員は、ディープフェイクポルノに対処するための法案を導入し、全国で一貫した保護を提供するための連邦法の必要性を強調しました。活動家は、ディープフェイクの作成を容易にするアプリから利益を得ている組織に罰則を科す連邦法を求めています。これは、生成AIの露骨なコンテンツへの使用に対処することを目的としたジョー・バイデン大統領の行政命令の取り組みを強化するものです。

今後の展望

この懸念すべき問題に注目が集まる中、連邦規制がAI生成の露骨なコンテンツの増加傾向に対抗するための鍵となるかどうかという疑問が残っています。一部の立法府メンバーは、AI生成コンテンツに関する開示や、ディープフェイクポルノ画像の共有を違法とする立法を推進していますが、アメリカ自由人権協会や電子フロンティア財団などの団体からは、第一修正条項への潜在的な侵害に関する懸念が表明されています。AI生成の露骨なコンテンツとの戦いは続いており、影響を受けた家族や活動家は、絶えず進化し続けるデジタル景観において脆弱な個人を保護するために戦っています。この技術的な脅威に直面して、立法は個人を保護することと表現の自由を維持することの間の適切なバランスをどのように取るべきでしょうか？