- 유럽 위원회가 AI 챗봇 그록(Grok)과 관련해 X에 대한 공식 절차를 개시했습니다.
- 이번 조사는 2025년 12월 디지털서비스법(DSA) 위반으로 X가 1억 2,000만 유로의 벌금을 부과받은 이후 이루어졌습니다.
- 아일랜드를 포함한 여러 국가들이 조치를 취했으며, 정부 장관들은 스캔들에 대응해 자신의 X 계정을 삭제했습니다.
유럽 위원회는 일론 머스크의 소셜 미디어 플랫폼 X에 대해 공식 절차를 개시했으며, 이는 인공지능 채팅봇 Grok이 어린이를 포함한 실제 사람들의 허락 없이 성적인 이미지를 생성한 것으로 밝혀졌기 때문입니다.
X를 사용하는 사람들은 Grok에게 생성을 요청하여 실제 사진의 AI 수정 버전을 만들고 있습니다. 지난 주 디지털 혐오 대응 센터(Centre for Countering Digital Hate) 발표한 연구에 따르면 Grok은 단 며칠 만에 여성과 어린이의 약 300만 개의 딥페이크 이미지를 생성했습니다.
이 논란은 여러 국가에서 조사를 촉구했습니다. 아일랜드에서는 여러 정부 장관들이 이에 대응하여 X 계정을 폐쇄했습니다.
파인 게일 소속 유럽 의회 의원인 Regina Doherty는 오늘 아침 발표된 성명에서 위원회의 회사에 대한 조치를 확인했습니다. 그녀는 공식 조사를 시작하는 결정을 지지한다고 말했습니다.
“신뢰할 수 있는 보고서에 따르면 AI 시스템이 여성과 어린이에게 해를 끼치는 방식으로 사용되는 경우, EU 법이 지체 없이 검토되고 집행되어야 합니다,”라고 Doherty는 말했습니다.
그녀는 이 사례가 플랫폼이 위험을 확인하고 불법 및 유해한 물질의 확산을 방지하기 위한 법적 책임을 따르고 있는지 여부에 대해 심각한 우려를 제기한다고 덧붙였습니다.
Doherty는 조사가 실제 결과를 가져와야 한다고 강조했습니다.
“EU에서 운영되는 어떤 회사도 법 위에 있지 않습니다,”라고 그녀는 말했습니다.
그녀는 또한 이 상황이 새로운 AI 기술의 규제 및 모니터링에서 더 큰 문제를 보여준다고 지적하며, EU 차원에서 더 많은 조치가 취해지도록 요청했습니다.
“이 사례는 AI 법이 살아있는 입법으로 남아야 하는 이유를 강조합니다. 집행 또는 감독의 격차가 명확해지면 이를 해결하는 것이 우리의 책임입니다. 심각한 피해가 발생하면 EU 법은 실시간으로 집행 가능해야 합니다,”라고 Doherty는 말했습니다.
그린란드 위기 때문에 조사 지연
to German news source Handelsblatt에 따르면, 위원회는 지난 월요일 EU의 디지털 서비스 법(Digital Services Act)에 따라 절차를 시작할 계획이었지만, 미국 대통령 도널드 트럼프의 그린란드 인수 위협에 대응하면서 결정이 연기되었습니다.
이번이 X가 EU 규제 기관과 문제를 겪은 첫 번째 사례는 아닙니다. 2025년 12월, 플랫폼은 디지털 서비스 법을 위반하여 EU로부터 1억 2,000만 유로의 벌금을 부과받았습니다. 위반 사항에는 오해의 소지가 있는 블루 체크마크, 광고에 대한 투명성 부족, 연구원의 플랫폼 접근 방지 등이 포함되었습니다.
트럼프 행정부 관리들은 해당 벌금에 대해 강한 입장을 표명했습니다. 마르코 루비오 국무장관과 JD 밴스 부통령은 이를 미국 기술 플랫폼에 대한 공격이라고 강력히 비판했습니다.
위험 평가 및 콘텐츠 중재에 초점
최신 조사는 X가 AI 채팅봇의 위험을 적절히 평가하고 유해한 콘텐츠의 생성 및 확산을 방지하기 위한 충분한 조치를 취했는지 여부에 특히 초점을 맞추고 있습니다. 디지털 서비스 법은 대규모 온라인 플랫폼이 불법 콘텐츠 및 사용자 피해와 관련된 위험을 식별하고 해결하도록 요구합니다.
이러한 부적절한 이미지가 매우 짧은 시간 내에 대량으로 생산된다는 사실은 디지털 안전 옹호자들과 입법자들 사이에서 경보음을 울렸습니다.
이 상황은 EU 규제가 새로운 AI 기술을 어떻게 처리할지에 대한 테스트 사례가 되었습니다. AI 법은 인공지능 시스템을 규제하기 위해 통과되었지만, 이 사례는 온라인 플랫폼의 책임을 다루는 디지털 서비스 법에 따라 추진되고 있습니다.
조사는 X에 대한 추가 벌금이나 Grok의 운영 방식을 변경해야 하는 요구사항으로 이어질 수 있습니다. 위원회는 디지털 서비스 법의 심각한 위반에 대해 전 세계 연간 매출의 최대 6%에 해당하는 벌금을 부과할 권한을 가지고 있습니다.
X는 아직 새로운 조사에 대해 공개적으로 논평하지 않았습니다. 다른 국가들이 자체 규제 대응을 고려함에 따라 회사의 상황 처리 방식이 주목받을 것입니다. 여러 국가들은 이미 채팅봇이 부적절한 이미지를 생성할 수 있는 능력을 해결하기 위해 긴급 조치를 요구했습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
