머스크의 X, Grok의 부적절한 이미지 혐의로 영국에서 금지될 수 있어

일론 머스크는 다크 웹에서 공개된 부적절한 이미지로 인해 영국에서 X 앱이 금지될 위기에 처해 있다. 사용자들은 이 이미지가 Grok AI 챗봇에 의해 생성된 것이라고 주장한다. 영국 인터넷 감독 기관인 Ofcom은 수십억 달러의 벌금 또는 X 앱 접근 차단 등 모든 옵션을 검토하라는 요청을 받았다. 

인터넷 감시 재단(IWF)은 분석가들이 11세에서 13세 사이의 어린 소녀들이 Grok에 의해 생성된 것으로 보이는 이미지를 다크 웹사이트에서 발견했다고 밝혔다. 미디어 규제 기관인 통신사무국(Ofcom)에 따르면, 이러한 이미지는 불법 아동 성학대 자료에 해당한다. 

키어 스타머 총리, Ofcom에 모든 옵션 검토 촉구

영국 총리 키어 스타머는 머스크의 xAI 앱 Grok이 어린 여성과 어린이의 범죄적 이미지를 생성한 alleged 혐의에 따라 영국 인터넷 감독 기관인 통신사무국(Ofcom)에 모든 옵션을 검토해 줄 것을 요청했다. 텔레그래프의 보도에 따르면, 영국의 온라인 안전법은 영국이 X 앱에 수십억 달러의 벌금을 부과하거나 영국 내 X 접근을 차단할 수 있게 한다. 

X 앱은 전 세계적으로 6억 5천만 명 이상의 사용자를 보유하고 있으며, 그중 최소 2,000만 명이 영국에 거주한다. 스타머 총리는 그레이트스트 히츠 라디오에서 X가 행동을 바로잡고 해당 자료를 제거해야 한다고 경고했으며, 이는 용납할 수 없는 행위이므로 머스크의 앱에 대한 조치가 취해질 것이라고 덧붙였다. 그는 여러 여성과 어린이의 노출된 이미지와 수영복을 입은 이미지들이 다른 이미지들과 함께 게시된 alleged 혐의에 대해 경고했다. 그롭 AI 챗봇. 

“X는 이 문제를 제대로 통제해야 하며, Ofcom는 이에 대한 조치를 취할 수 있도록 전폭적인 지지를 보낼 것입니다. 이는 잘못된 일이며 불법입니다. 우리는 이를 용납하지 않을 것입니다. 모든 옵션을 검토해 달라고 요청했습니다.”

-키어 스타머, 영국 총리 

현재까지 규제 당국은 금지 조치를 적용하기 전에 조사 및 잠정 판결을 포함한 법적 절차를 따를 것으로 예상됩니다. X가 Ofcom의 우려를 해결하지 못하면, 규제 당국은 영국 내 사이트 접속을 차단하려고 할 수 있습니다. Ofcom은 이미 이번 주 소셜 미디어 플랫폼에 연락하여 이미지 관련 조사를 시작할 수 있다고 밝혔습니다. 

머스크는 OSA의 의도가 시민들을 억압하는 것이라고 믿습니다

머스크는 이전에 비난하며 영국의 온라인 안전법(OSA)을 주장하며, 그 의도가 시민들을 억압하는 것이라고 밝혔습니다. 머스크에 따르면, 영국의 OSA는 유해한 콘텐츠로부터 어린이를 보호하기 위한 조치를 통해 표현의 자유를 침해할 위험이 있습니다. 머스크는 이 법의 ‘칭찬할 만한’ 의도가 Ofcom을 통한 공격적인 집행으로 구현되었다고 지적했습니다.

인터넷 감시 재단(Internet Watch Foundation) 자선 단체의 핫라인 책임자 알렉산더 낭아이어(Alexander Ngaire), 말했습니다 BBC에 그록(Grok)과 같은 도구가 어린이를 위한 성적인 AI 이미지를 주류 미디어로 가져올 위험이 있다고 경고했습니다. 그녀는 해당 자료를 영국 법상 가장 낮은 범죄 등급인 C등급으로 분류했습니다. 그녀는 이미지를 업로드한 사용자가 그록이 아닌 다른 AI 도구를 사용하여 가장 심각한 범죄 자료로 간주되는 A등급 이미지를 생성했다고 덧붙였습니다.  

낭아이어에 따르면, IWF는 사람들이 사진과 같은 사실적인 아동 성학대 자료(CSAM)를 생성하는 용이성과 속도에 우려를 표명하고 있습니다. 재단은 suspected CSAM이 보고되는 핫라인을 통해 인터넷에서 이러한 자료를 제거하고, 분석관이 그 법적성과 심각성을 평가하는 것을 목표로 합니다. IWF 분석관들은 해당 자료가 다크 웹 에서만 발견되었으며 X 플랫폼에서는 발견되지 않았다고 밝혔습니다. 

X에 따르면, 불법 콘텐츠(CSAM 포함)에 대해서는 해당 콘텐츠를 제거하고 계정을 영구 정지하며, 필요한 경우 현지 정부 및 법 집행 기관과 협력하여 조치를 취할 것입니다. 이 소셜 플랫폼은 그록을 사용하여 불법 콘텐츠를 생성하도록 프롬프트한 사용자는 이를 업로드한 것과 동일한 결과를 겪을 것이라고 경고합니다.