스페인, AI 남용 위험을 이유로 X, 메타, 틱톡에 법적 조치 시작

스페인이 X, 메타, 틱톡을 상대로 AI 모델이 아동 성학대 자료(CSAM)의 생성과 유포에 기여했다는 주장과 함께 법적 조치를 시작했습니다.

스페인 총리 페드로 산체스는 화요일 각료가 검찰청 조직법 제8조를 발동할 것이라고 밝혔습니다. 그는 이렇게 썼습니다.

“오늘 내각회의는 X, 메타, 틱톡이 자체 AI를 통해 아동 포르노그래피를 생성하고 유포함으로써 저지를 수 있는 범죄를 조사해 달라고 요청하기 위해 검찰청 조직법 제8조를 발동합니다.”

페드로는 또한 “이 플랫폼들은 우리 자녀들의 정신 건강, 존엄성, 권리를 공격하고 있습니다. 국가는 이를 허용할 수 없습니다. 거대 기업들의 무죄 특권이 끝나야 합니다.”라고 덧붙였습니다.

이 법적 요청 두 주 전, 페드로는 16세 미만의 모든 사람에게 소셜 미디어 접근을 차단하는 등 스페인의 온라인 학대 대응을 위한 새로운 계획을 공유하며 이를 맹세했습니다.

11월, 페드로는 스페인 의회가 페이스북과 인스타그램 사용자에게 영향을 미칠 수 있는 가능한 개인정보 보호 위반에 대해 메타를 조사할 것이라고 말했습니다.

영국 기반 인터넷 감시 재단(Internet Watch Foundation)의 데이터는 문제가 얼마나 빠르게 성장하고 있는지 보여줍니다. 지난해 이 기관은 AI 생성 아동 성학대 동영상 3,440건을 적발했습니다. 그 전 해에는 단 13건만 보고되었습니다.

유럽은 주요 기술 기업들에 대한 단속을 계속 강화하고 있습니다

스페인의 조치는 유럽 정부와 대형 미국 기술 기업들 사이의 긴장감이 고조되는 데 추가됩니다. 이들 기업은 2024년 선출되어 2026년 재임 중인 도널드 트럼프 미국 제47대 행정부의 지지를 받고 있습니다.

유럽 지도자들은 플랫폼이 사용자를 보호해야 한다고 주장하는 반면, 미국 정치인들과 기술 임원들은 엄격한 규제가 표현의 자유를 제한할 위험이 있다고 주장합니다. 이 의견 차이는 이제 법원과 규제 기관에서 전개되고 있습니다.

12월, 유럽연합(EU)은 디지털 서비스법(DSA)에 따라 X에 1억 2,000만 유로(약 1억 4,000만 달러)의 과징금을 부과했습니다. 이는 해당 법 하에서 첫 번째로 부과된 벌금입니다. 이번 달, 프랑스 경찰은 플랫폼상의 아동 포르노그래피와 홀로코스트 부정 확산에 대한 사이버 범죄 수사의 일환으로 X의 현지 사무소를 압수수색했습니다.

아일랜드 데이터보호위원회(DPC)도 이제 개입했습니다. EU 일반개인정보보호법(GDPR)을 집행하는 이 규제 기관은 월요일 늦게 Grok가 생성한 ‘잠재적으로 해로운’ 성적으로 왜곡된 이미지의 생성 및 게시에 대한 공식 조사를 시작했다고 밝혔습니다.

문제는 이러한 이미지에 EU 사용자의 개인 데이터 처리가 포함되었을 수 있다는 점입니다.

Grok은 X의 소셜 미디어 피드에 직접 통합되어 있습니다. 이는 엘론 머스크의 AI 회사인 xAI가 개발했으며, xAI는 지난해 X를 인수했습니다. 이달 초, xAI는 머스크의 로켓 회사인 SpaceX와 합병했습니다. 이 거래로 시가총액 1.5조 달러 규모의 결합된 그룹이 탄생했습니다.

아일랜드의 조사는 전 세계 규제 기관들이 X를 상대로 취한 최신 조치입니다. 1월 초, Grok를 사용하여 수천 건의 여성 성적으로 왜곡된 딥페이크 이미지가 생성되었습니다. 이미지는 온라인에서 빠르게 확산되었고, 반발은 즉각적이었습니다. 사용자, 온라인 안전 전문가, 정치인 모두 강력하게 반응했습니다.

아일랜드 규제 기관의 부위원장이자 대리 위원장인 그레엄 도일은 언론 보도가 몇 주 전에 처음 등장한 후 이미 X와 접촉했다고 말했습니다. 그는 해당 보도가 X의 @Grok 계정에 프롬프트를 입력하여 실제 사람, 어린이 포함하여 성적으로 왜곡된 이미지를 생성할 수 있다는 불만을 제기했다고 말했습니다.