아일랜드, X의 Grok 오용에 우려 표명

아일랜드는 블로그 플랫폼 X에서 AI 챗봇 Grok가 오용되는 것에 대해 우려를 표명했다. 보고서에 따르면, 이 불만은 최근 해당 국가에서 열린 회의에서 회사 임원들에게 전달되었다. 이는 아일랜드 챗봇의 행동이 초래할 영향에 대해 우려하는 긴 목록의 국가들 중 하나가 되었다.

최근 몇 주 동안 여러 국가와 지도자들이 플랫폼, 소유주인 일론 머스크, 그리고 챗봇 Grok를 비판했다. 이는 일부 사용자가 챗봇을 이용해 여성과 어린이의 성적으로 과장된 이미지를 생성하고 있기 때문이다. 일부 국가는 법적 제재를 공포하는 반면, 다른 국가들은 플랫폼이 어린이와 여성이 디지털 학대로부터 보호받을 수 있도록 조치를 취할 것을 촉구했다.

아일랜드, X에 시정 조치 요구

회의에서 AI 장관 나이엄 스미스는 평가한 대로 회사가 이 위협을 억제하기 위해 취했다고 밝힌 시정 조치를 칭찬했다. 이는 임원들이 Grok가 전 세계적으로 개인의 의복을 제거하거나 줄이는 기능을 비활성화했다고 설명한 이후의 일이다. 이 새로운 developments는 플랫폼이 X와 Grok 사용자가 제한된 의복을 입은 사람의 이미지를 생성하는 기능을 ‘지리적 차단’할 것이라고 확인한 이후 이루어졌다.

성명에서 플랫폼은 이러한 요청이 해당 행위가 불법으로 간주되는 지역에서만 중단될 것이라고 언급했다. 회의에서 아일랜드 AI 장관은 동의 없는 밀착 이미지와 아동 성학대 자료가 공개 플랫폼에서 생성 및 게시되고 있다는 우려를 표명했다. 그녀는 회사 임원들에게 보안 장치의 정교함이 기술의 정교함과 일치해야 한다고 말했다.

그러나 스미스는 Grok가 독립형 애플리케이션으로서의 우려가 여전히 남아 있다고 지적하며, 아일랜드 정부가 이를 더 자세히 검토해야 할 것이라고 덧붙였다. 그녀는 상황을 지속적으로 면밀히 모니터링할 것이라고 밝혔다. 나이엄은 또한 향후 X 임원들과 대면 후속 회의를 개최하여 해당 기술에 대한 적절하고 지속적인 보호 조치가 유지되도록 할 예정이라고 덧붙였다.

국가들, X와 Grok 챗봇 비판 지속

이러한 재차 비판은 플랫폼이 이를 생성하는 사용자를 중단하고 정지하겠다고 약속한 후에도 위협의 생성을 억제하지 못했다고 alleged된 이후 발생했다. 이 기간 동안 영국 통신 규제 기관 Ofcom은 영국에서 사용자를 보호하기 위한 법적 의무를 준수하기 위해 X와 xAI가 무엇을 하고 있는지 이해하기 위해 X와 xAI에 긴급 연락을 취했다고 밝혔다. 규제 기관은 당시 조사 필요성을 평가할 것이라고 언급했다.

성명 발표 후 인도네시아 정부는 챗봇과 관련해 결단력 있는 조치를 취했다고 발표했다. 이 국가는 AI가 생성한 선정적 콘텐츠의 위험으로부터 여성과 어린이를 보호할 필요가 있다는 이유로 챗봇을 일시적으로 금지할 것이라고 밝혔다. “정부는 동의 없는 성적인 딥페이크를 디지털 공간에서의 인권, 존엄성 및 시민의 안보에 대한 심각한 위반으로 간주한다”라고 국가는 밝혔다.

이 developments는 호주 총리 앤서니 알바니즈가 플랫폼을 비판하는 국가들을 지지하며 지지를 표명하고, 취약한 사용자를 보호하는 측면에서 올바른 조치를 취할 것을 촉구한 이후의 일이다. 호주의 eSafety 사무소는 접수된 신고 건수가 상대적으로 적다고 언급했지만, 이전 연도에 비해 해당 사건과 관련된 신고가 증가했다고 지적했다. 이 감독 기관은 호주 온라인 안전법에서 정한 권한을 사용하여 이러한 콘텐츠를 제거하겠다고 다짐했다.