호주 총리, Grok을 사용하여 공격적인 콘텐츠 생성에 대한 X 비판

호주 총리 앤서니 알바네세는 Grok을 사용하여 부적절한 이미지를 생성한 이유로 블로그 플랫폼 X를 비판했습니다. 알바네세는 인공 지능 챗봇 Grok을 사용하여 착취적인 성적인 콘텐츠를 가능하게 한다는 우려에 대한 자신의 분노를 표명했습니다.

호주의 eSafety 사무소가 접수한 신고 건수는 여전히 적지만, 챗봇을 사용하여 성적 대상화되거나 착취적인 이미지를 생성하는 사건에 대한 신고가 최근 급증했다고 지적합니다. 감시 기관은 성명에서 챗봇으로 생성된 자료가 호주 온라인 안전법에서 정의된 기준에 부합하는 경우 제거 통지 등 권한을 사용할 것이라고 경고했습니다.

eSafety 사무소에 따르면, 플랫폼, 챗봇 및 기타 다양한 서비스는 또한 호주 세계 선도적인 산업 코드 및 표준의 일환으로 아동 성 착취 자료 및 기타 불법 자료를 감지하고 제거하기 위한 안전 의무를 준수해야 합니다. 호주 총리는 토요일에 불만을 표명했으며, 영국 counterparts인 키어 스터머를 포함한 다른 세계 지도자들과 함께 소셜 미디어 플랫폼을 비판했습니다.

호주 총리, Grok 오용에 대한 X 비판

“동의 없이 생성형 AI를 사용하여 사람을 착취하거나 성적 대상화하는 것은 혐오스럽습니다.” 그는 캔버라에서 기자들에게 말했습니다. “이 도구가 Grok를 통해 이미지 생성 기능을 사용하도록 사람들이 사용되었다는 사실은, 저는 완전히 혐오스럽다고 생각합니다.” 알바네세는 추가하여 이 사건이 소셜 미디어가 사회적 책임을 보여주지 않는 또 다른 예라고 지적하며, 호주인과 전 세계 인구가 더 나은 대우를 받을 자격이 있다고 말했습니다.

그들의 비판은 과장이 아니며, 이번 주 Grok 챗봇에 대한 글로벌 반발의 일부로, 이는 X가 유료 구독자에게만 도구를 제한하여 AI를 사용하여 이미지를 생성하거나 편집하는 사용을 제한하도록 했습니다. 금요일, Grok은 디지털로 변형된 이미지를 요청한 비구독 사용자의 요청을 거부했습니다. “이미지 생성 및 편집은 현재 유료 구독자에게만 제한됩니다. 이러한 기능을 잠금 해제하려면 구독하세요.”라고 챗봇이 말했습니다.

eSafety 사무소 대변인이 발표한 성명서에 따르면, 접수된 불만 중 대부분은 성인 이미지가 변조된 것에 대한 우려와 관련이 있었으며, 소수는 잠재적인 아동 성착취물과 관련이 있었다. “이미지 기반 학대 신고는 매우 최근에 접수되었으며 아직 평가 중입니다.”라고 기관은 밝혔다. “불법 및 제한 콘텐츠 신고와 관련하여, 해당 자료는 1급 아동 성착취물의 분류 기준에 미달했습니다.”

이에 따라 eSafety 사무소는 해당 불만에 대해 삭제 명령을 내리거나 집행 조치를 취하지 않겠다고 밝혔다. 그러나 대변인은 AI를 활용한 아동 착취 사용 증가에 대한 우려가 지속되고 있다고 언급했다. “이는 제품 수명 주기 전반에 걸쳐 생성형 AI 제품에 적절한 안전 장치와 제한 장치를 내장하여 해가 발생하기 전에 이러한 기술의 오용과 무기를 만드는 것을 방지하는 등 ‘디자인 단계에서의 안전(Safety by Design)’의 중요성을 강조합니다.”라고 그들은 말했다.

인도네시아, 딥페이크로 인해 Grok 일시 금지

한편, 인도네시아는 Grok 챗봇에 대해 결정적인 조치를 취했습니다. 통신디지털부서는 토요일에 이 조치를 발표하며, AI 생성 명시적 콘텐츠로부터 어린이와 여성을 보호할 긴급한 필요성을 인용했습니다. “정부는 비동의 성적인 딥페이크를 디지털 공간에서 인권, 존엄성 및 시민의 보안에 대한 심각한 위반으로 간주합니다.”라고 미우티아 하피드 장관은 공식 성명에서 말했습니다.

그녀는 AI를 남용하여 가짜 포르노를 만드는 것이 디지털 기반 폭력의 한 형태에 해당한다고 주장했습니다. 한편, 인도네시아는 국가 내 디지털 플랫폼이 금지된 콘텐츠의 생성 및 배포를 방지하기 위한 안전 장치가 마련되어 있음을 증명하기를 원합니다. 이 집행의 일환으로 부서는 X(구 트위터)를 소환했습니다. 회사는 이 재앙의 확산을 억제하기 위해 취한 조치를 설명하는澄清을 제공할 것입니다.