호주 총리, X가 Grok을 이용해 공격적인 콘텐츠를 생성한 것을 강력 비난

앤서니 앨버니즈 호주 총리는 부적절한 이미지를 생성하는 데 그록(Grok)을 사용하는 블로그 플랫폼 X를 강력히 비난했습니다. 앨버니즈 총리는 인공지능 챗봇 그록이 성적 착취 콘텐츠를 조장하는 데 이용될 수 있다는 우려를 표명하며 분노를 나타냈습니다.

호주 온라인 안전 사무소(eSafety Office)에 접수된 신고 건수는 아직 적지만, 최근 챗봇을 이용해dent노골적이거나 착취적인 이미지를 제작하는 사례가 급증했다고 밝혔습니다. 사무소는 성명을 통해 챗봇으로 제작된 자료가 호주 온라인 안전법(Australian Online Safety Act)에 명시된 기준을 defi할 경우, 삭제 명령을 포함한 조치를 취할 것이라고 경고했습니다.

eSafety 사무국에 따르면, 해당 플랫폼과 챗봇, 그리고 다양한 기타 서비스들은 호주의 세계 최고 수준의 업계 규정 및 표준에 따라 아동 성착취물 및 기타 불법 자료를 탐지하고 제거해야 하는 안전 의무를 준수해야 합니다. 호주 총리는 토요일에 이러한 조치에 대한 불만을 표명하며, 키어 스타머 영국 총리를 비롯한 다른 세계 지도자들해당 소셜 미디어 플랫폼을 비판했습니다.

호주 총리, X의 Grok 오용을 강력 비난

"동의 없이 사람들을 착취하거나 성적으로 대상화하기 위해 생성형 AI를 사용하는 것은 혐오스러운 일입니다."라고 그는 캔버라에서 기자들에게 말했습니다. "사람들이 Grok을 통해 이미지 생성 기능을 사용하도록 이 도구가 사용되었다는 사실은 정말 끔찍하다고 생각합니다." 앨버니즈 덧붙였습니다 는 이번dent 소셜 미디어가 사회적 책임을 다하지 못하는 또 다른 사례라며, 호주인과 전 세계 사람들이 더 나은 것을 누릴 자격이 있다고

그들의 비판은 근거 없는 것이 아니며, 이번 주 Grok 챗봇에 대한 전 세계적인 반발의 일부입니다. Grok의 반발로 인해 X는 AI를 이용한 이미지 생성 및 편집 기능을 유료 구독자에게만 제공하도록 제한했습니다. 금요일, Grok은 유료 구독자가 디지털로 수정된 이미지를 요청하는 것을 거부했습니다. 챗봇은 "이미지 생성 및 편집 기능은 현재 유료 구독자에게만 제공됩니다. 구독하시면 해당 기능을 이용하실 수 있습니다."라고 안내했습니다.

eSafety 사무국 대변인이 발표한 성명에 따르면, 접수된 신고의 대부분은 성인 이미지 변조에 대한 우려였으며, 소수의 신고는 아동 성착취물 관련 내용이었습니다. 해당 기관은 "이미지 기반 학대 신고는 최근에 접수되었으며 현재 검토 중입니다."라고 밝혔습니다. 또한 "불법 및 제한 콘텐츠 신고의 경우, 해당 자료는 1급 아동 성착취물 분류 기준에 부합하지 않았습니다."라고 덧붙였습니다

그 결과, eSafety 사무국은 해당 신고에 대해 삭제 통지서를 발부하거나 강제 조치를 취하지 않겠다고 밝혔습니다. 그러나 대변인은 인공지능을 이용한 아동 착취 증가에 대한 우려가 여전히 남아 있다고 언급했습니다. "이는 '설계 단계부터 안전을 고려하는 것'의 중요성을 강조하며, 생성형 인공지능 제품에는 제품 수명주기의 모든 단계에 걸쳐 적절한 안전장치와 가드레일이 마련되어 있어야 한다는 점을 보여줍니다. 이는 피해가 발생하기 전에 이러한 기술의 오용과 악용을 방지하기 위한 것입니다."라고 대변인은 덧붙였습니다.

인도네시아, 딥페이크 관련 Grok 일시적 금지

한편, 인도네시아는 단호한 조치를 취했습니다. 통신디지털부는 토요일, 인공지능(AI)이 생성한 음란 콘텐츠의 유해성으로부터 아동과 여성을 보호해야 할 긴급한 필요성을 강조하며 이러한 조치를 발표했습니다. 메우티아 하피드 장관은 공식 성명에서 "정부는 동의 없이 제작된 성적 딥페이크를 디지털 공간에서 인권, 존엄성, 시민의 안전을 심각하게 침해하는 행위로 간주한다"고 밝혔습니다.

악용해 인공지능을 가짜 음란물을 제작하는 것은 디지털 폭력의 한 형태라고 주장했습니다. 한편, 인도네시아 정부는 국내 디지털 플랫폼들이 불법 콘텐츠의 생성 및 유포를 막기 위한 안전장치를 갖추고 있음을 입증하도록 요구하고 있습니다. 이러한 조치의 일환으로 정부는 X(구 트위터)를 소환했습니다. X는 해당 유해 콘텐츠 확산을 막기 위해 취한 조치들을 설명하는 소명을 할 예정입니다.