xAI、Grokユーザーを未成年者のAI生成性的画像で訴える

Elon MuskのxAIは、サウスカロライナ州の男性をテキサスの連邦裁判所に提訴し、Grokチャットボットを使用して未成年者の性的に露骨なディープフェイクを作成したと非難しました。これは、AI企業がプラットフォームを使用して生成されたコンテンツについて自身のユーザーの一人を訴えた初めてのケースです。

被告のTerry Harwoodは、2月に未成年者の性的搾取の別件の罪で逮捕されました。Reutersによると、xAIの民事訴状は4月14日（火曜日）に提出され、その逮捕から発展する刑事事件と並行して進められます。

xAIの訴訟

訴状によると、彼は偽の身元で複数のアカウントを開設し、その後、AIツールに大人と子供の通常の写真を定期的にフィードし、それらの画像を性的コンテンツに変えるためのプロンプトを作成しました。Al Jazeeraによると、これらの行為で使用された対象者は同意しておらず、自分の写真が使用されていることを知りませんでした。

xAIは、システムがこの行為に抵抗したと主張しています。Grokはリクエストを拒否し、それらをコンテンツルールの違反としてフラグ付けしました。訴状によると、Harwoodの対応は、プロンプトを書き換えて再試行し続けることでした。

「被告の行為は、原告のツールを犯罪目的のために武器化する計算された計画であり、真の被害者に深刻かつ永続的な危害をもたらしました」と、Reutersが引用したように、xAIは訴訟で述べています。同社はまた、彼が同意のない成人の性的画像を作成したと主張しています。

AI企業は訴訟の訴状で裁判所に2つのことを求めました。これには、特定の金額が指定されていない金銭的損害賠償と、HarwoodがGrok製品を二度と使用しないよう命じる命令が含まれます。

xAIはまた、訴状を使用して、悪意のある行為者に対するその執行活動の規模を表明しました。同社は、今年52,222のアカウントを停止し、73,604件の報告をNational Center for Missing & Exploited Childrenに送信し、これらの紹介により2026年に少なくとも244件の逮捕につながりました。

Grokはより広範な監視の下にある

この事件が発生する前に、xAIはGrokが生成できるものについてすでに圧力を受けていました。ヨーロッパの規制当局はこのAIツールを精査しており、ワシントンの立法府は複数の懸念を提起しています。マレーシアとインドネシアの両国は、性的に露骨な出力によりチャットボットを禁止しました。Al Jazeera は報告しています。

Elon Musk自身は今年初めに根本的な問題を否定しました。「Grokによって生成された裸の未成年者の画像は、私は知りません。文字通りゼロです」と、彼は1月にXで書きました。

Grokによって生成された裸の未成年者の画像は、私は知りません。文字通りゼロです。

明らかに、Grokは自発的に画像を生成するのではなく、ユーザーのリクエストに応じてのみ生成します。

画像の生成を求めると、それは違法なものは生成しないよう拒否します。これは運用原則… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) 1月 14日、2026

最近作成されたDEFIANCE Actという法的経路も、これらの事例の増加につながっています。2024年に署名されたこの法は、同意のない親密なディープフェイクの被害者が訴訟を起こす手段を提供し、複数の州がこれに関連する個別の法律を可決しました。