xAI는 AI가 생성한 성적 이미지를 겨냥한 미네소타 주 법률을 두고 소송을 벌이고 있습니다

미네소타주 법무장관 키스 엘리슨은 금요일, xAI가 HF 1606 법안(dent가능한 사람의 성적인 이미지를 생성하는 AI 도구를 제한하는 미국 최초의 법안)의 시행을 막으려는 시도에 반대하는 의견서를 제출했다고 Decrypt가 보도했습니다.

엘리슨은 회사가 헌법적 주장에서 승소할 가능성이 낮으며, 강제 집행이 돌이킬 수 없는 손해를 초래할 것이라는 점을 입증하지 못했다고 주장했다.

X.AI는 Grok Imagine을 통해 디지털 성폭력을 위한 전례 없는 시장을 만들어냈으며, 국가는 기술 자체를 겨냥한 법률을 제정하지 않는 한 처음부터 방어할 수 없을 것이다.

– 키스 엘리슨 법무장관

미네소타 측의 주장은 Grok Imagine이 도구일 뿐 표현의 자유로 보호받는 것이 아니므로, xAI가 판사에게 제시한 고려 대상에서 제외되어야 한다는 것입니다. 연방 판사는 수요일에 이 문제에 대한 심리를 진행할 예정입니다.

미네소타 주의 법은 고의나 의도가 없었더라도 AI 제공업체를 대상으로 합니다

HF 1606 법안은 기업이 사용자가dent가능한 인물의 원본 사진에는 없었던 은밀한 신체 부위를 보여주는 사실적인 이미지를 생성하도록 허용하거나, 사용자를 대신하여 그러한 이미지를 제작하는 것을 금지합니다. 위반 시 이미지당 최대 50만 달러의 벌금이 부과될 수 있으며, 이미지에 묘사된 사람들은 별도로 소송을 제기할 수 있습니다.

해당 법률은 회사가 이미지의 존재를 알았거나 의도했는지 여부를 요구하지 않습니다. 연방 딥페이크 삭제법(Take It Down Act)을 포함한 대부분의 딥페이크 관련 법률은 이미지를 제작하거나 공유하는 사람을 처벌합니다.

텍사스주는 2025년에 운영자에게 연락을 취했지만, 이는 소유자가 동의가 없다는 사실을 알고 있거나 삭제 요청에 응답하지 않은 경우에만 해당되었습니다. 미네소타주는 소유자가 이를 알고 있어야 한다는 요건을 없앴고, 수요일에 xAI가 바로 이 조항을 문제 삼고 있습니다.

하원은 132대 1, 상원은 65대 0으로 해당 법안을 통과시켰는데, 이는 한 남성이 소셜 미디어 사진을 이용해 자신이 아는 80명 이상의 여성들의 성적인 이미지를 만든 사건에 대한 보도가 나온 후였습니다. 이 법안은 4월에 서명되었습니다. xAI는 7월 27일에 소송을 제기했고, 7월 29일에는 임시 금지 명령을 신청했습니다.

7월 31일, 도노반 프랭크 판사는 해당 회사가 법안 서명 후 거의 3개월이 지나고 발효일 3일 전에 신청서를 제출한 점을 지적하며 "피해가 즉각적으로 발생하지 않는다"고 판단하여 청원을 기각했습니다. 해당 법은 8월 1일부터 발효되었습니다.

xAI는 미네소타주의 규정이 풍자와 합의에 의한 이미지까지 범죄화할 수 있다고 밝혔습니다

이 소송은 동의 없는 이미지 사용을 방지하려는 국가의 이익 자체에는 이의를 제기하지 않지만, 해당 법률이 그 범위를 훨씬 넘어선다는 점을 주장하며, 논쟁의 defi은 정의에 있습니다. xAI에 따르면 미네소타주는 신체 defi을 수반하는 범죄를 다루는 법률에 근거하여 '은밀한 부위'를 정의했으며, 이는 허벅지 안쪽과 가슴을 포함하여 수영복과 풍자 이미지까지 포괄한다는 것입니다.

문서 19페이지에는 트럼프가 5월 1일 Truth Social에 공유한 AI 생성 이미지가 포함되어 있는데, 이 이미지에서 트럼프는 JD 밴스, 마르코 루비오, 더그 버검 내무부 장관과 함께 상의를 탈의한 채 신원 미상의 여성과 함께 링컨 기념관 반사 연못에 서 있다. 이는 연못 보수 비용을 풍자한 것이다. xAI는 이 이미지에서 각 남성의 가슴이 이전에는 노출되지 않았던 부분에 드러나 있기 때문에 미네소타 주에서 불법이라고 주장한다.

"피험자가 동의했거나, 이미지를 직접 생성했거나, 이미지를 공유한 적이 없더라도, 범용 AI 창작 도구 제공업체의 선의의 노력에 대해서는 면책 특권이 없습니다."라고 해당 회사는 밝혔습니다.

계산에 따르면, 그런 이미지 10개에 500만 달러가 들고, 10만 개에 달하면 500억 달러가 들게 됩니다.

그록의 법 집행 기록은 학대 문제의 심각성을 여실히 보여줍니다

해당 회사는 성실성을 입증하는 증거로 자사의 규정 준수 기록을 제시했습니다. 바와 같이 Cryptopolitan 앞서 보도한, xAI는 7월 제출 서류에서 올해 52,222개의 계정을 정지시키고 미국 실종아동착취방지센터(NCMC)에 73,604건의 보고서를 제출하여 2026년 한 해 동안 최소 244건의 체포를 이끌어냈다고 밝혔습니다.

이러한 수치는 규모를 가늠하는 척도이기도 합니다. 디지털 혐오 대응 센터에 따르면, 머스크가 앱의 편집 기능을 지지한 후인 12월 29일부터 1월 8일까지 11일 동안 Grok은 약 300만 장의 성적으로 노골적인 이미지를 생성했으며, 그중 약 2만 3천 장은 아동이 묘사된 것으로 보였습니다.

캘리포니아주는 1월 14일 조사에 착수했고, 이틀 후인 1월 20일에는 활동 중단을 요구하는 서한을 보냈다. 35개 주 법무장관은 1월 23일 공동으로 활동 중단을 요구했다. 엘리슨에 따르면, 다섯 명의 어린이가 집단 소송을 제기했고, 아칸소주의 두 가족은 연방 법원에 소송을 제기했다.

유럽연합 집행위원회는 1월 27일 조사에 착수했으며, 해당 챗봇은 말레이시아와 인도네시아에서 사용이 금지되었습니다.