アリゾナ州在住の女性3人が、ソーシャルメディアの投稿から自分たちの画像が盗まれ、人工知能（AI）モデルに入力されてディープフェイク画像が生成されたとして、複数の個人や企業を提訴した。容疑者たちは、モデルを利用して自分たちの露骨な画像を生成し、そこから利益を得ていたと主張している。.
アリゾナ州マリコパ郡上級裁判所に提起された訴訟は、複数の女性をAIモデルとして宣伝し、金儲けを目的とした動画を投稿したInstagramアカウントを標的としている。プライバシー保護のため氏名は伏せられている原告らは、AI生成画像、事前の同意なしに自身のソーシャルメディア上の写真から作成されたものだと指摘した。被害者の一人は、拡散された画像のせいで、不快な目で見られるようになったと訴えている。
アリゾナ州の女性たちがAI生成コンテンツをめぐり訴訟を起こす
訴訟では、インスタグラムアカウントの所有者であるボー・シュルツ氏を含む、アリゾナ州マリコパ郡の3人が被告として挙げられています。また、この訴訟には、他の50人のジョン・ドゥと、このビジネスを運営するために設立または利用されたとされる複数の企業も名指しされています。原告側は、ドンロン・グループのニック・ブランド氏とペレ法律事務所のクリスティーナ・ペレス・ヘサノ氏が代理を務めています。.
ブランド氏によると、被告らはアリゾナ州出身と思われるが、設計図を作成し、他の男性や少年にいわゆるAIインフルエンサーの作り方を教え、その後、服を着た画像からヌード画像に変換していたという。さらにブランド氏は、被告らは生成したディープフェイク画像を使って、有料会員制のポルノサイトを立ち上げ、顧客と性的なメッセージをやり取りしていると付け加えた。ブランド氏は、この問題は自分が担当する前は想像もしていなかったほど広範囲に及んでいると指摘した。.
アリゾナ州の訴訟では、被告は顧客に対し、法的トラブルのリスクを軽減するため、人気インフルエンサーや著名インフルエンサーの利用を避け、代わりにマイクロインフルエンサーを利用するよう指示しました。「テクノロジーの進歩に伴い、女性たちがどのような苦しみを味わっているかについて、自分がいかに無知だったか、信じられないほどです」とブランド氏は語りました。被害者の一人によると、こうした悪弊を防ぎ、同様の詐欺の標的となる女性をこれ以上増やさないためには、厳格な法律を制定するしかないとのことです。
決済プラットフォームは不正行為を否定
別の被害者は、人工知能を使ってこれほどの混乱を引き起こすことは許されないと述べ、人工知能を使う者が誰かの姉妹、母親、友人、同僚を標的にしている現状を指摘した。一方、訴訟に名を連ねる企業の一つである決済処理プラットフォームのPhyziroは、これらの告発は重大な虚偽であると主張した。同社は、合衆国法典第47編第230条に基づくインタラクティブ・コンピュータ・サービス・プロバイダーであると主張した。.
当社は、第三者ユーザーまたは自律エージェントによって生成されたコンテンツまたは取引について、発行者、発言者、または作成者として扱われることはありません。また、ユーザーまたは二次ユーザーの具体的なダウンストリーム意図または違法行為を監視する義務を負いません。メンバーおよびマネージャーは、AIエージェント、ユーザー、または二次ユーザーがマネージャーの直接的な可視性またはプログラミングの範囲外で行動した場合に発生する「非対称知識」事象について、責任を免除されます。
同社は、中立的なツールとインフラの提供者としてのみ機能していると述べ、責任はスタックの技術的な運用性に限定されることを強調した。声明の中で同社は、通信品位法第230条により不正行為は免責されると主張している。しかしながら、現在、議会では超党派でこの法律の撤回を求める動きがあり、撤回されればプラットフォームは自社のウェブサイトに投稿されたコンテンツやウェブサイトにリンクされたコンテンツについて責任を負うことになるだろう。.
批判にさらされている中で起こった。各国政府は、このプラットフォームがチャットボットの活動を監視するためのガードレールを整備しておらず、女性や子供の露骨な画像をAIで生成したディープフェイク動画を作成していると非難した。一部の国はGrokに警告を発しているが、問題解決が完了するまで一時的にアクセスを停止している国もある。
