일본, 머스크의 Grok 조사에 참여한 국가 목록에 합류

금요일, 일본은 머스크의 AI 서비스인 Grok가 생성한 부적절한 이미지로 인해 X를 조사 중이라고 발표했습니다. 정부는 부적절한 이미지가 생성되지 않도록 모든 조치를 모색할 계획입니다.

경제 안보 장관인 키미 오노다는 일본의 내각부가 X에 즉각적인 개선을 요청했지만, 아직 회사가 응답하지 않았다고 밝혔습니다.

도쿄, Grok의 통제 조치에 대한 X의 답변 압박

도쿄 관료들은 부적절한 딥페이크 및 이미지 가 사생활, 지적 재산권, 초상권 등을 침해하는 것을 방지하기 위한 조치에 대해 X에 서면 질문을 보냈습니다.

AI 전략 담당 장관이기도 한 오노다는 금요일 기자회견에서 개선이 없을 경우 법적 조치 포함하여 모든 옵션이 고려되고 있다고 말했습니다. 그녀는 유사한 문제가 다른 는 플랫폼에서 발생할 경우 대응할 것이라고 덧붙였습니다.

이 장관은 사람들이 여전히 그러한 이미지를 생성할 수 있다는 점이 우려스럽다고 말했습니다. 그러나 그녀는 AI 자체가 비난받을 대상은 아니라고 지적했습니다. 그녀는 일본 정부가 진정한 문제에 대한 다양한 해결책을 모색해야 한다고 믿습니다.

오노다는 영국과 캐나다가 Grok에 대한 조사를 진행 중이라고 발표한 후 발언했습니다.

일본은 이 중요한 분야에서 미국과 중국에 뒤처지지 않도록 하는 동시에 AI를 규제하려 합니다. 그의 AI 법, 9월부터 시행되었으며, 벌칙이 없고 위반 사항에 대한 조치는 조사와 공식 지침으로 제한됩니다.

전 세계 당국, Grok에 대한 조치

전 세계 당국자들은 사용자가 이 AI 채팅봇이 여성과 미성년자의 성적으로 대상화된 이미지를 생성할 수 있다는 사실을 발견한 후 이를 제한하려 했습니다.

이번 달, Grok는 말레이시아부터 이탈리아에 이르기까지 여러 국가의 사용자들과 정부들로부터 성적이거나 모욕적인 방식으로 사진을 쉽게 조작할 수 있다는 이유로 강한 비판을 받았습니다.

필리핀과 인도네시아는 명시적인 이미지 생성으로 인해 그롭 접근을 일시적으로 금지했습니다.

캐나다, 캘리포니아, EU 및 프랑스와 같은 EU 회원국들은 Grok의 이미지가 현지 법률을 위반하는지 여부를 검토 중입니다.

수요일 늦게, xAI는 비키니와 같은 노출된 의상을 입은 실제 사람의 이미지를 조작하는 Grok 사용자를 막기 위한 변경 사항을 발표했습니다.

xAI는 불법적인 지역에서 노출된 의상을 입은 사람의 이미지 생성을 지역별로 사용자를 제한한다고 밝혔지만, 구체적인 지역은 명시하지 않았습니다.

이후 이미지 생성 기능을 제한하고 유료화 벽 뒤에 두었습니다.

수요일, 일론 머스크는 Grok가 생성한 미성년자의 누드 이미지에 대해 알지 못한다고 밝혔습니다. 

그는 는 그는 “Grok가 생성한 미성년자의 누드 이미지는 전혀 모릅니다. literally zero(문자 그대로 제로). 분명히 Grok는 이미지를 자발적으로 생성하지 않으며, 사용자 요청에 의해서만 생성합니다.”라고 말했습니다.

Copyleaks에 따르면 X에는 매분 약 하나의 이미지가 업로드됩니다. 독립적인 인터넷 연구원인 제네비브 오(Oh)는 @Grok의 X 게시물을 24시간 동안 검토했습니다. 채팅봇이 생성한 시간당 약 6,700개의 이미지가 성적으로 암시적이거나 누드화되는 것으로 플래그가 지정되었습니다.