EU, 며칠 만에 300만 건의 딥페이크 이미지가 발생한 머스크의 그록(Grok)에 대한 조사 착수

유럽연합 집행위원회는 일론 머스크의 소셜 미디어 플랫폼 X의 인공지능 챗봇 '그록'이 아동 사진을 포함한 실제 사람들의 성적인 이미지를 허가 없이 생성한 사실이 드러나자 공식 절차에 착수했다.

X를 사용하는 사람들은 Grok에게 실제 사진을 AI로 변형해달라고 요청하여 사진을 조작해 왔습니다. 지난주 디지털 혐오 대응 센터(Centre for Countering Digital Hate)에서 발표한 연구에 따르면 Grok은 단 며칠 만에 여성과 어린이의 딥페이크 이미지 약 300만 장을 제작했습니다.

이번 논란으로 여러 국가에서 조사 요구가 빗발치고 있다. 아일랜드여러 정부 장관들이 이에 대한 대응으로 X 계정을 폐쇄했다.

파인 가엘 소속 유럽 의회 의원인 레지나 도허티는 오늘 아침 발표한 성명에서 해당 회사에 대한 유럽 위원회의 조치를 확인했습니다. 그녀는 공식 조사 개시 결정을 지지한다고 밝혔습니다.

도허티는 "인공지능 시스템이 여성과 아동에게 해를 끼치는 방식으로 사용되고 있다는 믿을 만한 보고가 나오면 EU 법을 검토하고 지체 없이 시행하는 것이 필수적이다"라고 말했다.

그녀는 이번 사건이 플랫폼들이 위험성을 점검하고 불법적이고 유해한 콘텐츠의 확산을 막아야 하는 법적 책임을 제대로 이행하고 있는지에 대한 심각한 우려를 제기한다고 덧붙였습니다.

도허티는 이번 조사가 실질적인 결과로 이어져야 한다고 강조했다.

그녀는 "EU에서 사업을 운영하는 어떤 회사도 법 위에 있지 않다"고 말했다.

그녀는 또한 이러한 상황이 새로운 AI 기술의 규제 및 감시 방식에 더 큰 문제가 있음을 보여준다고 지적하며 EU 차원에서 더 많은 조치가 취해져야 한다고 촉구했습니다.

도허티는 "이번 사례는 인공지능법이 살아있는 법률로 유지되어야 하는 이유를 보여줍니다. 집행이나 감독상의 허점이 드러나면 이를 해결하는 것은 우리의 책임입니다. EU 법률은 심각한 피해가 발생했을 때 실시간으로 집행될 수 있어야 합니다."라고 말했습니다.

그린란드 위기로 인해 조사가 지연되었습니다

에 따르면델스경제지 한 에 따른 절차를 시작할 계획이었으나 EU 디지털 서비스법 대응으로 결정이 연기되었다dent 의 그린란드 점령 위협에 대한

X사가 EU 규제 당국과 문제를 일으킨 것은 이번이 처음이 아닙니다. 2025년 12월, 해당 플랫폼은 디지털 서비스법 위반으로 EU로부터 1억 2천만 유로의 벌금을 부과받았습니다. 위반 사항에는 허위 파란색 인증 마크 사용, 광고 관련 정보 불투명성, 연구자들의 플랫폼 접근 차단 등이 포함됩니다.

트럼프 행정부 관리들은 해당 벌금에 대해tron입장을 보였습니다. 마르코 루비오 국무장관과 JD 밴스dent 모두 이를 강력히 비판하며 미국 기술 플랫폼에 대한 공격이라고 규정했습니다.

위험 평가 및 콘텐츠 검토에 집중

이번 조사는 특히 X사가 자사의 AI 챗봇 관련 위험성을 제대로 평가하고 유해 콘텐츠 생성 및 확산을 방지하기 위한 충분한 조치를 취했는지 여부에 초점을 맞추고 있습니다. 디지털 서비스법은 대형 온라인 플랫폼이 불법 콘텐츠 및 사용자 피해와 관련된 위험을dent하고 해결하도록 요구하고 있습니다.

이처럼 짧은 시간 안에 엄청난 양의 부적절한 이미지가 빠르게 생산된 것은 디지털 안전 옹호자들과 입법자들 사이에서 경종을 울렸습니다.

이번 사안은 EU 규정이 신흥 AI 기술을 어떻게 다룰지에 대한 시험 사례가 되었습니다. 인공지능 시스템을 규제하기 위해 AI법이 제정되었지만, 이번 사건은 온라인 플랫폼의 책임을 다루는 디지털 서비스법에 따라 처리되고 있습니다.

이번 조사로 인해 X사에 추가 벌금이 부과되거나 Grok의 운영 방식을 변경해야 할 수도 있습니다. 유럽연합 집행위원회는 디지털 서비스법을 심각하게 위반한 기업의 전 세계 연간 매출액의 최대 6%까지 벌금을 부과할 수 있는 권한을 가지고 있습니다.

검토하는 가운데, X사의 상황 대처 방식은 면밀히 주시될 것입니다 규제 대응 방안을. 이미 여러 국가에서 긴급 조치를 요구한 바 챗봇이 부적절한 이미지를 생성하는 문제를 해결하기 위한