필리핀, 그로크 복귀 승인…개발자 안전 기준 약속

그로크는 필리핀 당국에 개선된 안전 조치를 확약했으며, 이에 따라 해당국은 AI 챗봇에 대한 접근 복구를 승인했으나 규제 당국은 지속적인 더 강력한 감독을 시사했다.

필리핀 당국은 이 결정이 개발자가 우려를 불러일으키고 임시 차단을 촉발한 플랫폼에서 이미지 조작 기능을 제거하기로 약속한 후 내려졌다고 말했습니다.

성명서에서 사이버범죄 조사 및 조정 센터(CICC)는 그로크 AI가 플랫폼이 “더 이상 콘텐츠 조작을 사용하지 않을 것”이라고 밝히며 연락해 왔다고 밝혔다.

필리핀, 그로크를 면밀히 감시

금지를 해제했음에도 불구하고 규제 당국은 완전한 준수를 위해 플랫폼을 지속적으로 모니터링할 것이다.

CICC는 “금지를 해제한 후에도 CICC는 앱이 우리 나라의 규칙과 규정을 준수하는지 지속적으로 면밀히 모니터링할 것”이라고 말하며 주의를 강조했다.

지난주 그로크는 성적인 콘텐츠 및 어린이가 자동으로 생성된 콘텐츠에 노출될 가능성에 대한 우려로 인해 필리핀에서 운영이 금지되었다.

유럽과 아시아의 정부들은 그로크가 이미지 조작으로부터 사용자를 보호하는 시스템을 구축하도록 압력을 가했으며, 이는 명시적인 콘텐츠를 생성하는 데 사용되고 있다. 당국은 또한 시스템을 지속적으로 모니터링할 것을 약속했다.

EU의 디지털 감시자로서 목소리를 높여온 유럽위원회는 1월 5일에도 플랫폼에 대한 우려를 표명하며, 불만 사항을 “매우 심각하게” 검토 중이라고 밝혔다.

“그로크는 이제 일부 아동 이미지로 생성된 출력물을 포함한 명시적인 성적인 콘텐츠를 보여주는 ‘스파이시 모드’를 제공하고 있다. 이것은 스파이시한 것이 아니다. 이것은 불법이다. 이것은 끔찍하다. 이것은 유럽에서 용납될 곳이 없다,”라고 당시 EU 디지털 담당 대변인 토마스 레그니에르가 말했다.

모니터링 기간 동안 그로크는 약속에 따라 필요한 준수를 보여야 한다. 당국은 서비스 복원이 관용을 보이는 것이 아니라 그로크가 법을 준수할 것이라는 믿음을 나타낸다고 말했다.

“그로크 AI 앱이 저희에게 연락하여 플랫폼이 더 이상 콘텐츠 조작을 사용하지 않을 것이라고 밝혔다,”라고 개발자는 변경 사항을 확약하며 당국을 안심시켰다.

필리핀은 접근 복구를 모니터링과 결합함으로써 혁신과 보호의 균형을 맞추고 있으며, 이는 AI 플랫폼이 대중의 기대에 부응해야 함을 시사한다.

다른 정부들, 그로크의 이미지 관련 법적 위협 제기

인도 전자정보기술부는 공식 경고를 X에 발송하여 그로크의 완전한 검토와 성적인 콘텐츠나 불법적인 콘텐츠를 생성할 수 있는 능력을 요구했다.

블룸버그는 1월 2일자로 작성된 통지서의 사본을 입수했으며, 이는 X에 취해진 조치에 대한 완전한 보고서 제출을 72시간 내에 요구했다. 이 서한은 해당국의 IT 법률에 따라 잠재적인 형사 고발 및 추가 처벌을 경고했다.

크립토폴리탄이 보도한 바와 같이, 프랑스 정부도 뒤처지지 않았다. 관리들은 금요일 그로크가 X에서 동의 없이 “명확히 불법적인” 성적인 콘텐츠를 생성했다고 밝혔다. 그들은 이 챗봇의 행동이 대규모 플랫폼이 불법 콘텐츠를 제한하기 위해 강력한 조치를 취해야 하는 유럽연합의 디지털서비스법(DSA)을 위반할 가능성이 높다고 말했다.

한편, 지난달 유럽연합은 디지털서비스법 위반으로 X에 1억 2,000만 유로(약 1억 4,000만 달러)의 과징금을 부과했다. 이 과징금은 기만적인 블루 체크마크 디자인, 불투명한 광고 시스템, 연구원들의 데이터 접근 거부 때문이었다. 하지만 일론은 플랫폼에서 여전히 격분했다.

EU의 공식 게시물에 대한 한 답변에서 일론은 단순히 “개소리!”라고 썼다. 그리고 다음 날 그는 “EU는 폐지되어야 하며 주권은 개별 국가로 반환되어야 한다. 그래야 정부들이 국민을 더 잘 대표할 수 있다”라고 게시했다.