사진 제공: 일론 머스크의 인공지능 챗봇 그록이 X에 대한 공개적인 요청에 응답하여 아동 성애 이미지를 생성한 후 프랑스, 말레이시아, 인도에서 영구적으로 사용이 금지될 위기에 처해 있다.
토요일, 말레이시아 당국은 인공지능(AI)을 이용해 불쾌하고 불법적인 콘텐츠를 제작한 혐의로 그록(Grok)을 조사하고 있다고 발표했습니다. 말레이시아 통신멀티미디어위원회(MCMC)는 그록이 여성과 미성년자의 성적으로 노골적인 조작 이미지를 생성했다는 신고를 접수했다고 확인했습니다.
해당 기관은 그러한 콘텐츠를 배포하는 것은 말레이시아에서 형사 범죄임을 분명히 밝혔습니다. 성명에 따르면, 그들은 해당 콘텐츠를 요청하거나 게시한 X 플랫폼 사용자들을 추적하고 X 관계자들을 소환하여 조사할 계획입니다.
MCMC는 고 밝혔습니다"X는 현재 허가받은 서비스 제공업체는 아니지만, 자사 플랫폼에서 유해 콘텐츠가 유포되는 것을 막을 의무가 있다"
인도, 프랑스, EU, 그록의 이미지 관련 법적 조치 위협 제기
바로 하루 전, 인도의 전자tron통신부 공식 경고를 Grok의 음란물, 성적인 콘텐츠 또는 불법적인 콘텐츠를 생성할 수 있는 능력에 대해 전면적인 검토를 요구했습니다.
블룸버그는 1월 2일자로 된 해당 통지서 사본을 입수했다고 주장하며, 통지서에는 X 측에 취한 조치에 대한 상세 보고서를 72시간 이내에 제출하라는 내용이 담겨 있었다고 밝혔다. 또한, 해당 서한은 잠재적인 형사 고발 및 국가 정보기술법에 따른 추가 처벌 가능성을 경고했다.
인도의 정보기술부 장관 아슈위니 바이슈나우는 CNBC-TV 18과의 인터뷰에서 "국회 위원회는 소셜 미디어를 규제하기 위한tron법안을 권고했습니다. 우리는 이를 검토 중입니다."라고 밝혔습니다
한편, 프랑스 정부 역시 강경한 입장을 밝혔습니다. 정부 관계자는 금요일, 그록(Grok)이 사람들의 동의 없이 X 플랫폼에서 "명백히 불법적인" 성적 콘텐츠를 생성했다고 발표했습니다. 또한, 해당 챗봇의 행위는 대형 디지털 서비스법을플랫폼이tron이 높다고 지적했습니다.
프랑스에 따르면, 그록의 행동은 플랫폼 규칙 시행에 있어 완전한 실패를 보여주는 것이다.
논란이 일자 일부 사진은 삭제되었지만, 관계자들은 이미 피해가 발생했다고 밝혔습니다. 그록의 자체 정책조차 성적 대상화를 금지하고 있기 때문에 이번 위반은 더욱 심각한 문제입니다.
논란에 대한 대응으로 Grok은 X에 올린 게시물에서 "안전장치상의 허점을dent"며 "시급히 시정 조치를 취하고 있다"고 주장했습니다. 하지만 이러한 해명에도 불구하고 정부의 책임 규명 요구는 멈추지 않고 있습니다.
EU가 X사에 1억 2천만 유로의 벌금을 부과하자 머스크가 격분했다
한편, 지난달 유럽연합은 X사가 디지털 서비스법을 위반했다는 이유로 1억 2천만 유로(약 1억 4천만 달러)의 벌금을 부과했습니다. 벌금 부과 이유는 기만적인 파란색 인증 마크 디자인, 불투명한 광고 시스템, 그리고 연구원들에게 데이터 접근 권한을 제공하지 않은 것이었습니다. 하지만 일론 머스크는 여전히 해당 플랫폼에서 거센 비난을 받았습니다.
일론 머스크는 EU 공식 게시물에 대한 답글에서 간단히 "헛소리!"라고 썼습니다. 그리고 다음 날, 그는 "EU는 폐지되고 주권은 각 국가에 반환되어야 한다. 그래야 정부가 국민을 더 잘 대표할 수 있다"라고 게시했습니다
앤드류 푸즈더 주EU 미국 대사는 엘론 머스크의 주장을 지지하며 "오늘 부과된 1억 2천만 유로라는 과도한 벌금은 미국의 혁신을 겨냥한 EU의 지나친 규제 조치의 결과"라고 말했다
그는 트럼프 행정부가 검열dent 반대하며 불공정한 국제 규정에 맞서 싸울 것이라고 덧붙였다. 푸즈더는 "우리는 EU가 공정하고 개방적이며 호혜적인 무역에 참여하기를 기대하며, 그 이하의 것은 용납할 수 없다"고 게시했다.
Grok에 대한 반발이 거세지면서 규제와 소송 위협도 커지고 있습니다. 하지만 일론 머스크와 그의 팀은 사태를 진정시키기는커녕 블룸버그의 이메일 요청에 "기존 언론의 거짓말"이라는 단 두 단어로 답했습니다
