아일랜드, X 플랫폼에서 Grok 오용에 대한 우려 표명

아일랜드는 블로그 플랫폼 X에서 인공지능 챗봇 '그록(Grok)'이 오용되는 것에 대해 우려를 표명했습니다. 보도에 따르면, 최근 아일랜드에서 열린 회의에서 회사 경영진에게 이러한 불만이 전달되었습니다. 이로써 아일랜드는 해당 챗봇의 행동이 초래할 수 있는 영향에 대해 우려하는 여러 국가 대열에 합류하게 되었습니다.

지난 몇 주 동안 여러 국가와 지도자들이 해당 플랫폼과 그 소유주인 일론 머스크, 그리고 챗봇 그록(Grok)을 비난해 왔습니다. 일부 사용자들이 챗봇을 악용하여 여성과 아동의 성적 이미지를 생성하고 있기 때문입니다. 일부 국가는 경고했고 , 다른 국가들은 플랫폼 측에 아동과 여성을 디지털 학대로부터 보호하기 위한 조치를 취할 것을 촉구했습니다.

아일랜드는 X가 시정 조치를 취하기를 원한다

회의에서 니암 스미스 인공지능부 장관은 환영했습니다 . 앞서 회사 임원들은 Grok이 전 세계적으로 개인의 옷을 벗기거나 줄이는 기능을 비활성화했다고 스미스 장관에게 보고했습니다. 이러한 새로운 조치는 플랫폼이 X와 Grok 사용자들이 특정 복장을 한 사람들의 이미지를 생성하는 기능을 '지리적 차단'할 것이라고 확인한 이후에 나온 것입니다.

해당 플랫폼은 성명에서 이러한 요청은 해당 행위가 불법으로 간주되는 지역에서만 중단될 것이라고 밝혔습니다. 회의에서 아일랜드 인공지능부 장관은 동의 없이 촬영된 음란 이미지와 아동 성학대 자료가 공개 플랫폼에 생성 및 게시되고 있다는 점에 우려를 표명했습니다. 그녀는 회사 경영진에게 기술의 수준에 걸맞게 안전장치의 수준이 높아야 한다고 강조했습니다.

그러나 스미스는 Grok을 독립형 애플리케이션으로 사용하는 것에 대한 우려가 여전히 남아 있다며, 아일랜드 정부가 이를 더욱 면밀히 검토해야 할 것이라고 언급했습니다. 그녀는 또한 상황을 계속 예의주시할 것이라고 덧붙였습니다. 니암은 향후 X사 경영진과 직접 만나 후속 회의를 개최하여 해당 기술에 대한 적절하고 지속적인 보호 조치가 마련되도록 할 예정이라고 밝혔습니다.

여러 국가들이 X사와 그 챗봇인 Grok을 계속해서 비판하고 있습니다

플랫폼 측이 악성 콘텐츠를 생성하는 사용자를 차단하고 계정을 정지시키겠다고 약속했음에도 불구하고, 해당 콘텐츠의 확산을 막지 못했다는 의혹이 제기되면서 비판이 다시 불거졌습니다. 이와 관련하여 영국 통신 규제 기관인 오프컴(Ofcom)은 X와 xAI 측에 긴급히 연락하여 영국 내 사용자 보호에 대한 법적 의무를 준수하기 위해 어떤 조치를 취하고 있는지 파악하려 했다고 밝혔습니다. 오프컴은 당시 조사 필요성을 검토할 것이라고 언급했습니다.

성명 발표 후, 인도네시아 정부는 해당 챗봇에 대해 단호한 조치를 취했다고 발표했습니다. 정부는 인공지능이 생성한 음란 콘텐츠의 위험으로부터 여성과 아동을 보호해야 한다는 이유로 해당 챗봇을 일시적으로 금지한다고 밝혔습니다. 인도네시아 정부는 "동의 없이 제작된 성적 딥페이크는 디지털 공간에서 인권, 존엄성, 그리고 시민의 안전을 심각하게 침해하는 행위"라고 강조했습니다.

이번 조치는 앤서니 알바네세 호주 총리가 해당 플랫폼을 비판하는 국가들을 지지하며 취약한 사용자들을 보호하기 위한 올바른 조치를 취할 것을 촉구한 이후에 나왔습니다 . 호주 온라인 안전 사무소(eSafety Office of Australia)는 접수된 신고 건수는 상대적으로 적지만, 이번 사건과 관련된 신고는dent 권한을 활용하여 해당 콘텐츠를 삭제할 것이라고 다짐했습니다 defi호주 온라인 안전법에