부적절한 이미지 생성 후 정부들이 일론 머스크의 X에 Grok 콘텐츠 금지 요청

일론 머스크의 AI 챗봇 Grok가 X의 공개 프롬프트에 응답해 아동의 성적인 이미지를 생성한 후 프랑스, 말레이시아, 인도에서 영구 금지될 위험에 처했다.

토요일 말레이시아 당국은 Grok가 AI를 사용하여 공격적이고 불법적인 콘텐츠를 생성하고 있다고 조사 중이라고 발표했습니다. 국가 통신 및 멀티미디어 위원회(MCMC)는 Grok가 성적으로 노골적인 형태로 여성과 미성년자의 조작된 이미지를 생성했다는 불만을 접수했다고 확인했습니다.

해당 기관은 이러한 콘텐츠 배포가 말레이시아에서 형사 범죄임을 명확히 했다. 성명에 따르면, 그들은 콘텐츠를 요청하거나 게시한 X 사용자들도 추궁할 계획이며, X 대표를 소환하여 조사할 예정이다.

MCMC 은 “X는 현재 라이선스를 받은 서비스 제공자가 아니지만, 플랫폼에서 유해 콘텐츠의 유통을 방지할 의무가 있다”고 밝혔다.

인도, 프랑스, EU가 Grok의 이미지 생성에 대해 법적 위협을 제기

하루 전, 인도 전자정보기술부는 X에 공식 경고를 발부하며 Grok의 완전한 검토와 성적이거나 선정적인 콘텐츠, 또는 불법적인 콘텐츠 생성 능력을 검토할 것을 요구했다.

블룸버그는 1월 2일자로 작성된 이 통지서를 입수했으며, X에게 조치 사항에 대한 완전한 보고서 제출을 72시간 내에 요구했다. 이 서한은 해당국의 IT 법률에 따라 잠재적인 형사 고발 및 추가 처벌을 경고했다.

인도의 정보기술부 장관 아슈와니 바이슈나우(CNBC-TV 18 인터뷰)는 “의회 위원회는 소셜 미디어 규제를 위한 강력한 법안을 권고했다. 우리는 이를 고려하고 있다”고 말했다.

한편 프랑스 정부도 손을 놓지 않았다. 관료들은 금요일 Grok가 X에서 동의 없이 ‘명백히 불법적인’ 성적인 콘텐츠를 생성했다고 밝혔다. 이들은 이 챗봇의 행동이 대규모 플랫폼에 불법 콘텐츠 제한을 위한 강력한 조치를 취하도록 요구하는 유럽연합의 디지털서비스법을 위반할 가능성이 있다고 말했다.

프랑스에 따르면 Grok의 행동은 플랫폼 규칙 집행에 대한 완전한 실패를 보여준다.

일부 사진은 반발 이후 삭제되었지만, 관료들은 이미 피해가 발생했다고 밝혔다. Grok 자체 정책도 성적인 표현을 금지하고 있어, 위반 행위가 더욱 악화되었다.

논란에 대응하여 Grok의 X 게시물은 “안전 장치의 허점을 식별했다”며 수정 사항이 “긴급히 적용되고 있다”고 밝혔다. 그러나 정부들의 책임 추궁 요구는 느슨해지지 않았다.

EU가 X에 €120 백만 벌금을 부과하며 일론 머스크가 격분

한편, 지난달 유럽연합은 디지털서비스법 위반으로 X에 1억 2,000만 유로(약 1억 4,000만 달러)의 과징금을 부과했다. 이 과징금은 기만적인 블루 체크마크 디자인, 불투명한 광고 시스템, 연구원들의 데이터 접근 거부 때문이었다. 하지만 일론은 플랫폼에서 여전히 격분했다.

EU의 공식 게시물에 대한 한 답변에서 일론은 단순히 “개소리!”라고 썼다. 그리고 다음 날 그는 “EU는 폐지되어야 하며 주권은 개별 국가로 반환되어야 한다. 그래야 정부들이 국민을 더 잘 대표할 수 있다”라고 게시했다.

EU 주재 미국 대사 앤드류 푸저는 X에서 일론을 지지하며 “오늘의 과도한 1억 2,000만 유로 벌금은 미국 혁신을 겨냥한 EU 규제 과잉의 결과”라고 말했다.

그는 트럼프 대통령의 행정부가 검열에 반대하며 불공정한 국제 규칙에 맞서 싸울 것이라고 덧붙였다. “우리는 EU가 공정하고 개방적이며 상호 호혜적인 무역에 참여하기를 기대한다. 그 이상도 이하도 아니다”라고 푸저는 게시했다.

Grok에 대한 반발이 커짐에 따라 규제와 소송 위협도 함께 증가하고 있다. 하지만 상황을 진정시키려는 대신, 일론과 그의 팀은 블룸버그의 이메일 요청에 단 두 단어로 답했다: “기성 미디어는 거짓이다.”