머스크의 X는 그록이 게시한 부적절한 이미지 의혹으로 영국에서 판매 금지될 수 있다

일론 머스크는 다크 웹에 부적절한 이미지가 유포된 혐의로 영국에서 X 앱의 사용 금지를 검토하고 있습니다. 사용자들은 해당 이미지가 Grok AI 챗봇에 의해 생성되었다고 주장하고 있습니다. 영국 인터넷 규제 기관인 오프컴(Ofcom)은 수십억 파운드에 달하는 벌금 부과 또는 X 앱 접속 차단 등 모든 가능한 조치를 검토해 달라는 요청을 받았습니다. 

인터넷 감시 재단(IWF)은 분석가들이 다크 웹사이트에서 Grok이라는 프로그램을 이용해 제작된 것으로 보이는 11세에서 13세 사이의 어린 소녀들의 이미지를 발견했다고 밝혔습니다. 영국 방송통신규제기관인 오프컴(Ofcom)에 따르면, 해당 이미지는 불법적인 아동 성착취물에 해당합니다. 

키어 스타머, 방송통신규제기관(Ofcom)에 모든 가능성을 열어둘 것을 촉구

영국 총리 키어 스타머는 일론 머스크가 개발한 xAI 앱 '그록(Grok)'이 어린 여성과 아동의 음란 이미지를 유포했다는 의혹과 관련하여, 영국의 인터넷 규제 기관인 통신규제청(Ofcom)에 머스크 사건에 대한 모든 가능한 조치를 검토해 줄 것을 요청했습니다. 텔레그래프 보도에 따르면, 영국의 온라인 안전법(Online Safety Act)은 해당 앱에 수십억 파운드의 벌금을 부과하거나 영국 내 접속을 차단할 수 있도록 규정하고 있습니다. 

X 앱은 전 세계적으로 6억 5천만 명이 넘는 사용자를 보유하고 있으며, 그중 최소 2천만 명이 영국 사용자입니다. 스타머 영국 총리는 '그레이티스트 히츠 라디오'에서 X 앱 측에 문제를 해결하고 해당 콘텐츠를 삭제하라고 경고하며, 머스크의 앱은 용납할 수 없는 수준이기 때문에 조치를 취할 것이라고 덧붙였습니다. 그는 여성과 어린이들이 나체로 있거나 비키니를 입은 여러 이미지가 앱의 그록 인공지능 챗봇 ' 

"X는 이 문제를 해결해야 하며, Ofcom은 이와 관련하여 조치를 취하는 데 전폭적인 지원을 아끼지 않을 것입니다. 이는 잘못된 행위이며 불법입니다. 우리는 이를 용납하지 않을 것입니다. 모든 가능한 방안을 검토해 줄 것을 요청했습니다."

-키어 스타머, 영국 총리 

현재 규제기관은 조사 및 잠정 판결을 포함한 적법한 절차를 거친 후 금지 조치를 적용할 것으로 예상됩니다. 만약 X가 Ofcom의 우려 사항을 해소하지 못할 경우, 규제기관은 해당 사이트의 영국 접속을 차단할 수 있습니다. Ofcom은 이미 이번 주에 해당 소셜 미디어 플랫폼에 연락하여 이미지와 관련하여 조사를 시작할 수 있다고 밝혔습니다. 

머스크는 OSA의 의도가 국민을 억압하는 것이라고 믿는다

머스크는 앞서 비판하며 그 목적이 국민을 억압하는 것이라고 주장했습니다. 머스크에 따르면, 영국의 OSA는 유해 콘텐츠로부터 아동을 보호하기 위한 조치들을 통해 표현의 자유를 침해할 위험이 있습니다. 그는 이 법의 '칭찬할 만한' 의도에는 방송통신규제기관인 오프컴(Ofcom)을 통한 적극적인 시행이 포함된다고 언급했습니다.

자선단체 인터넷 감시 재단(Internet Watch Foundation)의 핫라인 책임자인 알렉산더 나이레는 말했습니다 . 그녀는 해당 자료를 영국 법률상 범죄 목적상 가장 낮은 등급인 C등급으로 분류했습니다. 또한 이미지를 업로드한 사용자는 그록이 아닌 다른 AI 도구를 사용하여 가장 심각한 범죄 자료로 간주되는 A등급 이미지를 만들었다고 덧붙였습니다.  

Ngaire에 따르면, IWF는 사람들이 사진처럼 사실적인 아동 성착취물(CSAM)을 쉽고 빠르게 제작할 수 있다는 점에 우려를 표했습니다. 재단은 CSAM 의심 사례 신고를 접수하는 핫라인을 운영하여 인터넷에서 이러한 자료를 제거하는 것을 목표로 하고 있으며, 분석가들은 해당 자료의 합법성과 심각성을 평가합니다. IWF 분석가들은 해당 자료가 다크 웹 X 플랫폼에서는 발견되지 않았다는 사실을 확인했습니다. 

X 측은 아동 성착취물(CSAM)을 포함한 불법 콘텐츠에 대해 플랫폼 내 삭제 및 계정 영구 정지 조치를 취할 것이며, 필요한 경우 지방 정부 및 사법 당국과 협력할 것이라고 밝혔습니다. 또한, Grok을 통해 불법 콘텐츠 제작을 부추기는 사람은 직접 업로드한 사람과 동일한 처벌을 받을 것이라고 경고했습니다.