- Meta의 감시 위원회는 스코틀랜드 노동당 의원이 난민에 의한 성폭력을 지지하는 것으로 위조된 AI 생성 영상을 삭제하도록 Meta에 명령했습니다.
- 위원회는 Meta의 딥페이크 정책이 근본적으로 불충분하다고 밝혔습니다.
- Meta는 위원회로부터 9가지 권고를 받았으며, 이에 대해 60일 이내에 답변해야 합니다.
메타의 감시 위원회는 스코틀랜드 노동당 의원이 난민에 의한 성폭력을 지지하는 것으로 잘못 표시된 AI 생성 영상을 삭제해야 한다고 판결했습니다.
메타는 처음에는 해당 영상을 게시해 두기로 결정했으며, 이 결정을 뒤집는 것을 넘어 감시 위원회는 메타의 딥페이크 처리 방식이 사용자를 기만 위험에 노출시킨다고 경고했습니다.
메타가 삭제해야 하는 위조 영상은 무엇인가?
2025년 11월, 스코틀랜드 지역 노동당 정치인의 초상을 사용한 클립이 페이스북에 유포되었습니다. 영상은 해당 인물이 “난민은 환영합니다. 그들이 우리 여성을 강간하더라도요. 백인들도 그러니까요.”라고 말하는 모습을 묘사했습니다.
메타의 감시 위원회 이 묘사를 현실적이지만 합성된 것으로 설명하며, 오디오가 그녀의 얼굴 움직임과 일치하지 않는다고 지적했습니다. 해당 영상은 여러 명의 특정 여성들, 의원을 포함해 반극우 시위에서 찍힌 사진이 포함된 앨범에 있었습니다.
의원 본인 등 두 사람이 메타의 괴롭힘 및 혐오 규정 하에 해당 영상을 신고했지만, 메타의 시스템은 이를 인간 검토자에게 라우팅하지 않았고, 두 번의 항소 기간 동안 영상은 게시된 상태로 유지되었습니다.
그 후 세 번째 사용자가 사건을 위원회에 제소했으며, 그들이 신고한 후에도 메타는 해당 영상이 규정을 위반하지 않았으며 AI 라벨을 달 필요가 없다고 주장했습니다. 의원은 위원회에 해당 영상이 “상당히 트라우마를 남겼다”고 말했습니다.
위원회의 다수결은 해당 클립이 전체 난민 집단을 심각한 범죄와 포식적 성행위에 가담한 것으로 비난했기 때문에 메타의 혐오적 행동 정책 위반을 발견했으며, 메타가 일부 난민만 겨냥했다고 주장하는 것을 거부했습니다. 위원회는 이를 삭제 가능한 허위 정보로 처리하지는 않았지만, “고위험 AI” 라벨을 달았어야 한다고 밝혔습니다.
위원회는 메타에 유리한 한 가지 점에는 동의했는데, 즉 괴롭힘 및 혐오 규정은 선출직 공직자가 사적인 사람보다 덜 보호받는 공인이라는 이유로 삭제를 요구하지 않았다는 점입니다.
감시 위원회는 메타에 어떤 권고를 했는가?
위원회는 생리 건강 교육을 홍보하는 여성의 AI 조작 인터뷰가 포함된 두 번째 사건에 대해서도 개입했습니다. 위원회의 개입 후 메타는 괴롭힘을 이유로 해당 영상을 삭제했습니다.
두 판결은 위원회가 메타의 안전 장치를 “일관되게 그리고 근본적으로 불충분하다”고 부르도록 했습니다.
위원회 권장했습니다 메타가 ‘고위험’ 라벨의 기준을 낮춰 선거나 위기 상황에만 한정되지 않도록 하고, 일부 라벨을 클릭을 통한 인터스티셜 화면으로 대체할 것을 제안했습니다. 또한 고위험 AI 콘텐츠는 수익 창출에서 제외하거나 순위에서 하향 조정하거나 추천 목록에서 제거해야 하며, 반복 공유자에게는 점진적으로 강화된 처벌을 부과해야 한다고 제안했습니다.
위원회는 보고된 의심 AI 콘텐츠를 인간 검토를 우선시하고, 정치인 관련 게시물 포함 AI 라벨 적용 빈도에 대한 연간 데이터를 게시하며, 투표 및 인구 조사 규정을 미국에만 적용되지 않고 전 세계적으로 적용되도록 표현할 것을 메타에 요구했습니다. 메타는 위원회에 60일 이내에 응답해야 합니다.
전 세계 정부와 플랫폼들은 합성 미디어에 대한 규제를 강화하고 있습니다. 예를 들어, 중국 최고인민법원은 책임 규정을 9월 7일 설정했으며, 이는 허가 없이 타인의 얼굴이나 목소리의 AI 복제본을 생성하거나 공유하는 것은 침해 행위에 해당한다고 명시합니다. Cryptopolitan이 보고 베이징은 또한 올해 초 ‘칭랑’ 정리 작업의 첫 단계에서 14,000개 이상의 AI 제품을 별도로 제거했습니다.
유럽연합의 AI 생성 콘텐츠 투명성에 관한 행동 강령 제공자에게 AI 출력물에 마킹을 하고 배포자에게 딥페이크에 라벨을 붙이도록 장려합니다.
구글 플레이의 AI 생성 콘텐츠 정책 사용자들이 동의 없는 딥페이크 성적인 자료와 “명백하게 기만적이거나 거짓인” 선거 관련 콘텐츠를 게시하는 것을 금지합니다.
미디엄에서는 AI를 사용하여 미공개된 글을 작성하는 사용자가 제한적으로만 허용되며, 플랫폼은 AI 생성 허위 정보를 완전히 금지합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
Meta의 감시 위원회는 무엇을 결정했습니까?
위원회는 스코틀랜드 노동당 의원을 다룬 AI 생성 영상의 유지 결정을 뒤집고, 난민 집단 전체를 포식적 성범죄로 비난한 이 영상이 '혐오성 행동' 정책에 따라 삭제되어야 한다고 요구하며, Meta의 딥페이크 라벨링 규칙이 불충분하다고 판단했습니다.
왜 이 딥페이크 영상이 단순한 허위 정보가 아닌 혐오 발언으로 간주되었습니까?
위원회의 과반수는 이 영상이 난민 전체 집단을 대상으로 한 중대한 범죄 및 포식적 성행위를 주장했다고 밝혔으며, 이는 Meta의 '혐오성 행동' 규정을 위반한다고 보았습니다. 위원회는 삭제가 단순히 허위 정보 때문만은 아니라고 판단했으나, 해당 클립에는 "고위험 AI"라는 라벨이 부착되어야 했다고 결론지었습니다.
Meta는 이제 무엇을 해야 합니까?
Meta는 '고위험' 라벨의 기준을 낮추고, 보고된 AI 콘텐츠를 인간 검토를 위해 우선순위를 정하며, 고위험 AI 콘텐츠에 대한 광고 수익 창출을 중단하거나 노출을 줄이고, AI 라벨 적용 빈도에 관한 연간 데이터를 공개하는 것을 포함한 이사회가 내린 9 가지 권고 사항에 대해 60 일 이내에 답변해야 합니다.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
