xAI는 미성년자를 대상으로 한 AI 생성 음란 이미지에 대해 Grok 사용자를 고소했습니다

일론 머스크의 xAI는 사우스캐롤라이나주에 거주하는 한 남성을 상대로 텍사스 연방 법원에 소송을 제기했습니다. 이 남성은 xAI의 챗봇 '그록(Grok)'을 이용해 미성년자의 성적으로 노골적인 딥페이크 영상을 제작한 혐의를 받고 있으며, 이는 AI 기업이 자사 플랫폼을 이용해 제작된 콘텐츠와 관련하여 자사 사용자를 고소한 최초의 사례입니다.

로이터 통신에 따르면 피고인 테리 하우드는 지난 2월 미성년자 성 착취 혐의로 체포됐다. xAI는 4월 14일 화요일 민사 소송을 제기했으며, 이 소송은 하우드 체포와 관련된 형사 사건과 함께 진행될 예정이다.

xAI의 소송

소장에 따르면 그는 가짜dent으로 여러 계정을 개설한 후, 인공지능 도구에 성인과 아동의 사진을 정기적으로 입력하고, 그 사진들을 성적인 콘텐츠로 변환하는 문구를 작성하도록 했습니다. 알자지라에 따르면, 이러한 행위에 사용된 대상들은 동의하지 않았으며 자신의 사진이 사용되고 있다는 사실조차 몰랐습니다.

xAI는 시스템이 해당 행위에 저항했다고 주장합니다. Grok은 해당 요청을 콘텐츠 규칙 위반으로 표시하며 거부했습니다. 소장에 따르면, 하우드는 프롬프트를 계속 수정하고 다시 시도하는 방식으로 대응했습니다.

로이터 통신에 따르면, xAI는 소송장에서 "피고의 행위는 원고의 도구를 범죄 목적으로 악용하려는 계획적인 음모였으며, 이로 인해 실제 피해자들이 심각하고 지속적인 피해를 입었다"고 주장했습니다. 또한, xAI는 피고가 성인들의 동의 없이 촬영한 성적 이미지를 제작했다고 주장했습니다.

AI 회사는 소송 서류에서 법원에 두 가지를 요청했습니다. 하나는 구체적인 액수는 명시하지 않은 금전적 손해 배상이고, 다른 하나는 하우드가 그록 제품을 다시는 사용하지 못하도록 금지하는 명령입니다.

xAI는 또한 이번 서류 제출을 통해 악의적인 행위자에 대한 단속 활동 규모를 밝혔습니다. 회사는 올해 52,222개의 계정을 정지시키고, 실종 및 착취 아동을 위한 전국 센터(NCMS)에 73,604건의 보고서를 제출했으며, 이로 인해 2026년에 최소 244건의 체포가 이루어졌다고 밝혔습니다.

그록은 여전히 ​​광범위한 조사를 받고 있습니다

xAI는 이번 사건이 불거지기 전부터 Grok의 콘텐츠 문제로 이미 압박을 받아왔습니다. 유럽 규제 당국은 해당 AI 도구를 면밀히 조사했고, 워싱턴의 의원들은 여러 가지 우려를 제기했습니다. 알자지라 보도에 따르면.

일론 머스크 본인도 올해 초 근본적인 문제를 부인했다. 그는 1월 X에 기고한 글에서 "Grok이 생성한 미성년자 나체 이미지에 대해 아는 바가 전혀 없다. 단 한 장도 없다"고 밝혔다

저는 Grok이 생성한 미성년자 나체 이미지에 대해 전혀 알지 못합니다. 단 한 장도 없습니다.

당연히 Grok은 이미지를 자발적으로 생성하는 것이 아니라, 사용자의 요청에 따라서만 이미지를 생성합니다.

이미지 생성을 요청받으면, 불법적인 이미지는 절대 생성하지 않습니다. 이는 작동 원칙에 따른 것입니다… https://t.co/YBoqo7ZmEj

— 일론 머스크 (@elonmusk) 2026년 1월 14일

최근 신설된 DEFI법안'이라는 법적 절차 또한 이러한 사례 증가에 영향을 미쳤습니다. 2024년에 서명된 이 법안은 동의 없이 촬영된 딥페이크 영상의 피해자에게 소송을 제기할 수 있는 길을 열어주며, 여러 주에서도 이와 유사한 법률을 제정했습니다.