xAI, AI 생성 성 이미지 타겟팅 법을 둘러싼 미네소타주와 법정 공방

미네소타주 검찰총장 키스 엘리슨(Keith Ellison)은 금요일 xAI가 HF 1606을 차단하려는 시도에 반대하는 서한을 제출했습니다. 이는 식별 가능한 사람의 성 이미지를 생성하는 AI 도구를 제한하는 주 차원의 첫 번째 법안으로, 디크립트(Decrypt)의 보도에 따르면 엘리슨은 회사가 헌법상 주장을 성공시키기 어렵고, 집행이 회복 불가능한 피해를 초래할 것을 보여주지 못했다고 주장했습니다.

엘리슨은 회사가 헌법상 주장을 성공시키기 어렵고, 집행이 회복 불가능한 피해를 초래할 것을 보여주지 못했다고 주장했습니다.

그록 임agine(Grok Imagine)을 통해 X.AI은 디지털 성폭력에 대한 전례 없는 시장을 창출했으며, 주 정부는 기술 자체에 법을 적용하지 않는 한 처음부터 무방비 상태가 될 것입니다.

– 검찰총장 키스 엘리슨

미네소타주의 주장은 그록 임agine(Grok Imagine)이 도구이지 보호되는 표현이 아니므로, 판사가 검토할 xAI가 제시한 고려 사항에서 제외된다는 것입니다. 이에 대한 청문회는 수요일 연방 판사에 의해 진행될 예정입니다.

미네소타주의 법은 지식이나 의도 없이도 AI 제공자를 대상으로 합니다

HF 1606은 회사가 사용자가 식별 가능한 사람의 원래 사진에 없던 친밀한 부분을 보여주는 사실적인 이미지를 생성하는 것을 허용하거나, 사용자를 대신하여 그러한 이미지를 생성하는 것을 금지합니다. 위반 시 이미지당 최대 50만 달러의 벌금이 부과됩니다. 이미지에 등장한 사람들은 별도로 소송을 제기할 수 있습니다.

이 법안은 회사가 이미지에 대해 알았거나 의도했는지를 요구하지 않습니다. 연방 'Take It Down Act'를 포함한 대부분의 딥페이크 법은 사진을 만들거나 공유한 사람을 처벌합니다.

텍사스주는 2025년에 소유자가 동의 없음을 알았거나 삭제 요청에 응답하지 않은 경우에만 운영자에게 연락했습니다. 미네소타주는 지식 요소를 제거했으며, 이는 xAI가 수요일에 공격하고 있는 조항입니다.

이 법안은 한 남성이 소셜 미디어 사진을 사용하여 자신이 아는 80명 이상의 여성의 성 이미지를 생성했다는 보고 후, 하원에서 132대 1, 상원에서 65대 0으로 통과되었습니다. 4월에 서명되었습니다. xAI는 7월 27일에 소송을 제기했고 7월 29일에 임시 금지 명령을 신청했습니다.

7월 31일, 도너번 프랭크(Donovan Frank) 판사는 신청을 거부하며, 회사가 서명 후 거의 3개월, 발효일 3일 전에 신청한 점을 지적하며 “피해는 즉각적이지 않다”고 밝혔습니다. 이 법은 8월 1일에 발효되었습니다.

xAI, 미네소타주의 규칙이 풍자와 동의된 이미지를 범죄화할 수 있다고 주장

고발장은 주 정부가 비동의 이미지를 방지하려는 이익을 논박하지 않습니다. 오히려, 법안이 그 범위를 훨씬 넘어선다고 주장하며, 논쟁은 정의에 달려 있습니다. xAI에 따르면, 미네소타주는 신체 접촉이 관련된 범죄를 위한 법령에서 유래한 정의를 사용하여 친밀한 부분을 정의했으며, 이는 허벅지 안쪽과 유방을 포함하여 수영복과 풍자를 모두 포함합니다.

문서의 19페이지에는 트럼프가 5월 1일 트루스 소셜(Truth Social)에 공유했던 AI 생성 이미지가 포함되어 있으며, 여기에서 그는 셔츠를 벗고 JD 밴스, 마코 루비오, 내무장관 더그 버거머와 함께 링컨 기념관 리플렉팅 풀에 있는 것으로 보입니다. 이는 풀 수리 비용에 대한 농담입니다. xAI는 각 남성의 유방이 이전에 없던 곳에 묘사되어 있어 미네소타주에서 불법이라고 주장합니다.

“심지어 대상이 동의했거나, 이미지 자체를 생성했거나, 공유하지 않았더라도, 범용 AI 창작 도구 제공자의 선의의 노력에 대한 안전 항구(safe harbor)는 없습니다.”라고 회사는 말했습니다.

자사의 계산에 따르면, 이러한 이미지 10개당 500만 달러, 10만 개당 500억 달러가 됩니다.

그록의 집행 기록은 남용 문제의 규모를 강조합니다

회사는 준수 이력을 선의의 증거로 제시했습니다. 크립토폴리탄이 이전에 보도한 바와 같이, xAI는 7월 제출 서류에서 올해 52,222개의 계정을 정지하고 실종 및 학대 방지 국가 센터(NCMEC)에 73,604건의 보고서를 보냈으며, 2026년에 최소 244건의 체포를 이끌었다고 밝혔습니다.

이 숫자들은 또한 규모의 척도입니다. 디지털 혐오 반대 센터(Center for Countering Digital Hate)에 따르면, 머스크의 앱 편집 기능 지지 이후인 12월 29일부터 1월 8일까지 11일 동안 그록은 약 300만 개의 성적으로 노골적인 이미지를 생성했으며, 그중 약 23,000개는 어린이가 묘사된 것처럼 보였습니다.

캘리포니아주는 1월 14일 조사를 개시하고 이틀 후 중지 및 금지 통지를 보냈습니다. 35명의 검찰총장이 1월 23일 공동 요구에 서명했습니다. 엘리슨에 따르면, 5명의 어린이가 집단 소송을 제기했으며, 아칸소주의 두 가족이 연방 법원에 소송을 제기했습니다.

유럽 위원회는 1월 27일 조사를 시작했으며, 채팅봇은 말레이시아와 인도네시아에서 금지되었습니다.