xAI, 미성년자의 AI 생성 노출 이미지로 그록 사용자 고소

일론 머스크의 xAI는 사우스캐롤라이나 주 한 남성을 텍사스 연방법정으로 고소했으며, 그록 챗봇을 사용하여 미성년자의 성적으로 노골적인 딥페이크를 생성했다는 혐의를 받았습니다. 이는 AI 회사가 자체 플랫폼을 사용하여 생성된 콘텐츠로 자체 사용자 중 한 명을 고소하는 최초의 사례입니다.

로이터 통신에 따르면 피고인 테리 하우드는 2월 미성년자 성 착취 혐의로 별도의 혐의로 체포되었습니다. xAI의 민사 소송장은 4월 14일 화요일에 제출되었으며, 이제 그 체포로 인해 발전할 수 있는 형사 사건과 함께 진행될 것입니다.

xAI의 소송

소송장에는 그가 가명 여러 계정을 개설한 후, 성인 및 어린이의 일반 사진을 AI 도구에 입력하여 이러한 이미지를 성적인 콘텐츠로 전환하기 위한 프롬프트를 작성했다고 명시되어 있습니다. 알자지라에 따르면, 이러한 행위에 사용된 대상들은 동의하지 않았으며 자신의 사진이 사용되고 있다는 사실을 알지 못했습니다.

xAI는 시스템이 해당 행위에 저항했다고 주장합니다. 그록은 요청을 거부하며 콘텐츠 규칙 위반으로 표시했습니다. 소송장에 따르면 하우드의 대응은 프롬프트를 계속 수정하고 다시 시도하는 것이었습니다.

"피고의 행동은 원고의 도구를 무기화하여 범죄적 목적을 달성하려는 계산된 계획이었으며, 실제 피해자들에게 깊고 지속적인 피해를 노출시켰습니다." xAI는 로이터 통신이 인용한 소송서에서 이렇게 밝혔습니다. 회사는 또한 그가 동의 없는 성인 성적인 이미지를 생성했다고 주장합니다.

AI 회사는 소송장 제출을 통해 법원에 두 가지 사항을 요청했습니다. 여기에는 특정 금액이 명시되지 않은 금전적 손해배상과 하우드가 다시는 그록 제품을 사용하지 못하도록 금지하는 명령이 포함됩니다.

xAI는 또한 악의적 행위자에 대한 자체 단속 작업의 규모를 밝히기 위해 제출문을 사용했습니다. 회사는 올해 52,222개의 계정을 정지하고 실종 및 착취 아동 국가 센터에 73,604건의 보고서를 보냈으며, 이러한 보고서는 2026년에 최소 244건의 체포로 이어졌습니다.

그록은 더 넓은 범위에서 감시받고 있습니다

이 사건이 발생하기 전부터 xAI는 그록이 생성할 수 있는 내용에 대한 압력을 받아왔습니다. 유럽의 규제 기관들은 이 AI 도구를 면밀히 검토했으며, 워싱턴의 의원들은 여러 가지 우려를 제기했습니다. 말레이시아와 인도네시아 모두 성적으로 노골적인 출력물로 인해 이 챗봇을 금지했으며, 알자지라는 이렇게 보도했습니다.

일론 머스크 자신은 올해 초 근본적인 문제를 부인했습니다. "그록에서 생성된 미성년자 노출 이미지는 전혀 모릅니다. literally zero(완전히 제로)입니다," 그는 1월에 X에 작성했습니다.

그록에서 생성된 미성년자 노출 이미지는 전혀 모릅니다. Literally zero(완전히 제로)입니다.

분명히 그록은 자발적으로 이미지를 생성하지 않으며, 사용자 요청에 의해서만 그렇게 합니다.

이미지 생성을 요청하면, 운영 원칙에 따라 불법적인 내용은 생성하지 않기로 거부할 것입니다… https://t.co/YBoqo7ZmEj

— 일론 머스크 (@elonmusk) 1월 14, 2026

최근 설립된 DEFIANCE Act라는 법적 경로도 이러한 사례의 증가를 이끌었습니다. 2024년에 서명된 이 법은 동의 없는 친밀한 딥페이크의 피해자가 소송을 제기할 수 있는 방법을 제공하며, 여러 주가 이에 따라 개별 법률을 통과시켰습니다.