アリゾナの女性がAI生成の性的ディープフェイクで訴訟

アリゾナの3人の女性が、複数の人物および会社を訴え、ソーシャルメディアページから画像が持ち出され、人工知能（AI）モデルにフィードされてディープフェイクが生成されたと主張した。彼らは、関与した容疑者がモデルを使用して性的な画像を生成し、それらから利益を得たと主張した。

アリゾナ州マリコパ郡高等裁判所に提起された訴訟は、複数の女性の動画を投稿し、それらをAIモデルとして宣伝して儲けようとするInstagramアカウントを対象としている。プライバシー保護のため名前が伏せられている原告らは、AI生成の画像の一部が事前の同意なしにソーシャルメディアの写真を使用して作成されたことに言及した。ある被害者は、 circulating images（流通している画像）のおかげで、彼女が以前とは異なる目で見られるようになり、それが彼女にとって不快だと述べた。

アリゾナの女性がAI生成コンテンツで訴訟を開始

訴訟は、アリゾナ州マリコパ郡の3人の被告、Instagramアカウントの所有者であるBeau Schultzを含む。訴訟はまた、50人の他のJohn Doesおよび、ビジネスを実行するために作成または使用されたとされる複数の会社も被告としている。原告は、Donlon GroupのNick BrandとPere Law GroupのCristina Perez Hesanoによって代表されている。

ブランドによると、被告（おそらくアリゾナ州出身）は、これらのいわゆるAIインフルエンサーを作成する方法を他の男性や少年に教えるための設計図を作成し、その後、完全に服を着た画像からヌード化された。さらに、被告はこれらの生成されたディープフェイクを使用して、顧客と性的なメッセージを交換するサブスクリプションベースのポルノサイトを設立していると述べた。ブランドは、彼が事件を担当する前に想像していたよりも、この問題は広範であると指摘した。

アリゾナの訴訟では、被告は顧客に、人気のあるまたは有名なインフルエンサーではなく、マイクロインフルエンサーを使用して法的トラブルのリスクを減らすよう指示した。「技術が進歩する中で、女性が何を経験しているのかについて、私がどれほど無知だったか信じられない」とブランドは語った。ある被害者によると、これらの悪弊を防ぎ、同様のスキームでより多くの女性が標的になるのを防ぐには、厳格な立法のみが使用できるという。

決済プラットフォームは不正を否定

別の被害者は、人工知能がこれほど多くの混乱を引き起こすために使用されるべきではないと述べ、それを使用する人々は誰かの姉妹、母親、友人、同僚を狙っていると指摘した。一方、訴訟に記載されている会社の1つであるPhyziro（決済処理プラットフォーム）は、これらの訴えは本質的に誤りであると述べた。同社は、それが§ 47 U.S.C. 230の下でのインタラクティブコンピュータサービスプロバイダーであると主張した。

「当社は、第三者ユーザーまたは自律エージェントによって生成されたコンテンツやトランザクションの出版者、発話者、または著者として扱われるべきではありません。私たちは、ユーザーまたはユーザー・オブ・ユーザーの特定の下流の意図や不正行為を監視する義務もさらに維持していません。メンバーおよびマネージャーは、AIエージェント、ユーザー、またはユーザー・オブ・ユーザーがマネージャーの直接の可視性またはプログラミングの範囲外で行動した場合の『非対称的知識』イベントに対して免責される。」

同社は、中立なツールおよびインフラストラクチャの提供者としてのみ機能し、その責任はスタックの技術的運用性に厳密に限定されていると述べた。声明の中で、同社は通信法第230条が不正行為から解放されると指摘している。しかし、現在、議会でこの法律を撤回するための両党による取り組みが行われており、これはプラットフォームがウェブサイト上に投稿されたコンテンツまたはそれに関連するコンテンツに対して説明責任を負うことを強制するだろう。

このアリゾナでの展開は、チャットボットGrokが世界中から激しい批判を受けている時期にも重なっている。各国の政府は、プラットフォームがチャットボットの活動を制限するためのガードレールを維持していないと非難し、それが女性の性的な画像や子供たちのAI生成ディープフェイクを作成する原因となった。一部の国はプラットフォームに警告を発したが、他の国々は問題の修正が行われるまで一時的にアクセスを停止した。