인도 정부, 음란한 AI 콘텐츠 문제로 Grok 수정 요구

인도 정부는 일론 머스크 소유의 블로그 플랫폼 X에 인공지능 챗봇 '그록(Grok)'의 음란 콘텐츠 문제를 지적하며 시정을 명령했습니다. 정부는 사용자와 의원들이 여러 차례 음란 콘텐츠를 지적한 후, 해당 플랫폼이 챗봇에 대한 기술적, 절차적 개선을 즉시 시행할 것을 요구하고 있습니다.

사례가 챗봇 발생했으며, 여기에는 해당 도구를 사용해 인공지능으로 변형된 여성 이미지도 포함됩니다. 인도 정보기술부는 금요일, 해당 플랫폼에 Grok과 관련하여 시정 조치를 취할 것을 명령했으며, 여기에는 "나체, 성적 대상화, 성적으로 노골적인 내용 또는 기타 불법적인" 콘텐츠 생성을 제한하는 내용이 포함됩니다. 또한, 정보기술부는 해당 플랫폼에 72시간 이내에 시정 조치를 이행할 것을 요구하는 최후통첩을 내렸습니다.

인도 정부, X사에 Grok의 기술적 변경을 지시

72시간 시한부 최후통첩의 일환으로, 해당 부처는 X사에 음란물 게시 또는 유포를 방지하기 위해 취한 조치들을 상세히 기술한 이행 보고서를 제출할 것을 요구했습니다. 이러한 음란물에는 "음란, 포르노, 저속, 외설, 성적으로 노골적인 내용, 소아성애적 내용 또는 기타 법률에 의해 금지된 내용"이 포함됩니다. 해당 명령은 플랫폼이 필수 조치를 이행하지 않을 경우 "안전 항구" 보호 조항이 위태로워질 수 있다고 경고했습니다.

인도의 이번 조치는 인공지능 챗봇 '그록(Grok)'이 주로 여성들의 사진을 비키니 차림으로 보이도록 보정하는 사례를 공유한 사용자들의 우려에 따른 것입니다. 이 문제는 인도 국회의원 프리얀카 차투르베디가 공식적으로 제기한 항의에서 비롯되었습니다. 차투르베디 의원은 경고하며 , '그록'과 같은 기능이 인간의 존엄성을 침해하지 않도록 안전장치를 마련해야 한다고 강조했습니다.

한편, 사용자들은 AI 챗봇이 미성년자를 대상으로 한 성적인 이미지를 생성하는 데 사용된 사례를 여러dent신고했으며, X는 금요일에 이 문제를 인정했습니다. 플랫폼 측은 이러한 현상이 안전장치상의 허점 때문에 발생했다고 주장하며, 생성된 이미지를 신속하게 삭제했습니다. 또한, X는 이러한 문제를 예방하기 위해 최선을 다하고 있으며, 사용자들에게 연방수사국(FBI)이나 NCMEC의 사이버팁라인에 공식적으로 신고해 줄 것을 촉구했습니다.

X는 법규 미준수로 인해 법적 문제에 직면할 수 있습니다

사용자들에 따르면, 챗봇을 이용해 생성된 여성의 음란 이미지가 플랫폼에 그대로 남아 있었다고 합니다. 이번 조치는 인도 정보기술부가 소셜 미디어 플랫폼에 음란물 및 성적으로 노골적인 콘텐츠에 관한 현지 법률을 준수하는 것이 사용자 제작 콘텐츠에 대한 법적 면책을 유지하기 위한 필수 조건임을 상기시키는 권고를 발표한 이후에 나온 것입니다. 인도 정부는 기업들에게 안전장치를 강화할 것을 촉구했으며, 이를 준수하지 않을 경우 법적 조치를 받을 수 있다고 경고했습니다.

"상기 요구 사항을 준수하지 않을 경우 심각하게 받아들여질 것이며, 추가 통지 없이 귀사 플랫폼, 책임자 및 법을 위반한 플랫폼 사용자에게 엄격한 법적 조치가 취해질 수 있음을 다시 한번 강조합니다."라고 해당 명령서는 경고했습니다. 인도 정부는 또한 X사가 이 지침을 준수하지 않을 경우 인도 정보기술법 및 형법에 따라 해당 플랫폼에 대해 법적 조치를 취할 권한이 있다고 경고했습니다.

인도는 세계 최대 디지털 시장 중 하나로 부상했으며, 인공지능(AI) 기반 콘텐츠에 대한 플랫폼의 책임을 묻기 위해 정부가 얼마나 적극적으로 나서야 하는지를 가늠하는 중요한 시험대로 여겨지고 있습니다. 만약 인도에서 규제가 강화된다면, 다른 국가에서 사업을 운영하는 글로벌 기술 기업에도 ripple 효과가 미칠 수 있습니다. 이번 명령은 X사가 인도의 콘텐츠 규제 규칙에 대해 법원에 소송을 제기한 가운데 나온 것입니다.

해당 플랫폼은 연방 정부의 콘텐츠 삭제 권한이 월권 행위일 수 있다고 주장하지만, 정작 플랫폼 자체는 정부가 제시한 차단 지시 대부분을 준수해 왔습니다. 동시에 Grok은 X 플랫폼 사용자들에게 유용한 도구로 활용되어 왔으며, 대부분의 사용자는 이 플랫폼을 통해 실시간 사실 확인 및 글로벌 이슈에 대한 논평을 제공하고 있어, Grok의 결과물은 독립적인 AI 도구보다 더 주목받고 정치적으로 민감한 반응을 불러일으킵니다.