AI生成ヌード画像の拡散に対抗する行動を親たちが要求

ニュージャージー州の高校で、AIが生成した少女とそのクラスメートのヌード画像が校内で拡散された事件を受け、母親と14歳の娘が保護強化を求める運動を主導している。これは、身の毛もよだつ事実である。一方、ワシントン州シアトル郊外では、10代の少年がAIを使ってdentの露骨な画像を作成し、配布していたdent 発生。当局は同様の事件を捜査している。 

これらの憂慮すべき事例は、特に女性や子供を標的としたAI生成の露骨なコンテンツの脅威の高まりに対する緊急の安全対策の必要性を浮き彫りにしています。独立系dent 研究者のジェネビーブ・オー氏がAP通信に提供した分析によると、こうしたコンテンツの急増はdentのないレベルに達しており、今年だけで14万3000本以上の新たなディープフェイク動画がオンラインに投稿されています。

AI生成ヌード画像の脅威が高まる

ニュージャージー州ウェストフィールドで発生したこのdent 、今年の夏に発生しましたが、学校が注目したのは10月20日でした。女子dentの顔を使ってAIが生成した画像が、ソーシャルメディアアプリ「Snapchat」上で友人グループの間で拡散されました。被害者の家族は解決策を切望しており、AIモデルやサービスを公然と宣伝する様々なプラットフォームによる被害者画像の操作を防ぐための強力な安全対策を議員に導入するよう求めています。

この危機はニュージャージー州に限ったものではありません。シアトル郊外では、10代の少年が人工知能（AI）を用いてdentのわいせつな画像を作成し、配布したとされています。こうしたdentの事件を受け、被害を受けた家族、支援者、そして法律専門家は、全国的に統一された保護を確立できる連邦規制の導入を求めています。こうした措置は、被害者を守るだけでなく、潜在的な加害者にも強いメッセージを送ることになるでしょう。

法的救済を求める

テキサス州、ミネソタ州、ニューヨーク州など、いくつかの州では、合意のないディープフェイクポルノを犯罪とする法律が制定されていますが、これらの法律の範囲と有効性は州によって異なります。カリフォルニア州やイリノイ州などの州では、被害者が民事裁判所で加害者に対して損害賠償を求める権利を認めています。現在、ニュージャージー州では、ディープフェイクポルノを禁止し、拡散者に対して懲役刑や罰金などの罰則を科す独自の法律の制定を検討しています。

ニュージャージー州のクリスティン・コラード上院議員は、ディープフェイクポルノ対策のための法案をニュージャージー州で提出し、全国的に一貫した保護を提供する連邦法の必要性を強調しました。支持者たちは、ディープフェイクの作成を助長するアプリから利益を得ている組織に罰則を科す連邦法の制定を求めており、これは、ジョー・バイデン大統領が発令した、露骨なコンテンツへの生成AIの利用を阻止するためのdent 令の取り組みを強化するものです。

今後の道

この憂慮すべき問題への注目が高まる中、残る疑問は、AI生成の露骨なコンテンツの急増に対抗する鍵となるのは連邦規制なのだろうか、という点だ。一部の議員は AI生成コンテンツ やディープフェイクポルノ画像の共有を違法とする立​​法化を推進している一方で、アメリカ自由人権協会や電子フロンティア財団といった団体は、憲法修正第一条の潜在的な侵害を懸念しているtron生成の露骨なコンテンツとの戦いは続いており、影響を受けた家族や支援者たちは、絶えず変化するデジタル環境において脆弱な立場にある人々の保護を訴えている。この技術的脅威に直面し、立法はどのようにして個人の保護と表現の自由の維持の間で適切なバランスをとることができるのだろうか。