아리조나 법원이 AI 생성 피해자 영상을 기각하며 딥페이크 탐지 수요 증폭

아리조나 항소법원은 2021년 도로 분노 사건으로 과실치사죄로 유죄 판결을 받은 가브리엘 호르카시타스의 10.5 년 형량을 무효로 했으며, 이는 양형 시 피해자 크리스토퍼 펠키의 AI 생성 영상을 고려해서는 안 된다고 판단했기 때문입니다.

유죄 판결은 유효하나, 로이터와 사건 요약서에 따르면 재량형 선고 절차가 진행될 예정입니다.

판단은 사면 메시지가 형량에 부당하게 영향을 미쳤다고 밝혔습니다.

3 인 재판부는 AI 생성 영상이 양형 과정에 부적절하게 영향을 미쳤다고 지적했습니다.

기록상 AI 영상이 양형 계산에 정확히 어떻게 반영되었는지는 명시되지 않았으나, 그것이 역할을 했음에는 이의가 없습니다.

— 로이터 보도에 따르면 애리조나주 상급법원 D. 스티븐 윌리엄스 판사의 발언

법원은 해당 영상이 호르카시타스의 공정한 재판을 저해하여 형량 선고 절차를 근본적으로 불공정하게 만들었다고 결론지었습니다. 로이터는 애리조나주 법무장관과 호르카시타스의 공공 변호인이 논평을 거부했다고 보도했습니다.

펠키 가족이 아바타를 제작한 과정

이 대본은 펠키의 여동생 스테이시 웨일스가 작성했으며, 그 상황이라면 자신의 남동생이 어떤 말을 했을지 언어로 표현하는 것이 어렵다고 느꼈습니다. NPR에 따르면 가족은 짧은 영상 클립, 장례식 사진, 그리고 다양한 AI 도구를 활용하여 아바타를 제작했습니다.

아바타는 자신을 AI 창작물이라고 소개한 후 호르카시타스에게 다음과 같이 말했습니다:

다른 삶에서는 아마도 친구가 되었을지도 모릅니다.

나중에 재판 판사는 가족이 제공한 영상에 대해 감사를 표했습니다.

법원은 합성 영상을 위한 공통된 규칙집을 가지고 있지 않습니다.

이번 결정은 법원이 인공 증거 문제로 어려움을 겪고 있는 시점에 내려졌습니다. 콜로라도 볼더 대학교가 발표한 보고서에 따르면 미국 재판 사례의 80% 이상이 영상 증거에 부분적으로 의존하고 있는 반면, AI 생성 또는 AI 강화 영상을 처리하기 위한 공통 규칙은 아직 마련되지 않았습니다.

연구자들은 또한 AI가 주장을 그럴듯하게 만들어 실제 영상 footage를 가짜로 선언하는 이른바 '딥페이크 방어'에 대해 우려하고 있습니다.

이러한 우려는 CIFAR 합성 증거 코퍼스가 2026 년 6 월에 설립된 이유 중 하나였습니다. 연구원들은 기존 데이터셋이 증거 자료에서 발생할 수 있는 미묘한 조작을 감지하는 기술을 가르치기에 부적합하다는 점을 깨달았기 때문입니다.

출처 증명, 워터마크, 그리고 추격 중인 탐지 시장

NIST는 출처 추적, 워터마킹, 합성 콘텐츠 감지를 AI 생성 미디어 관리를 위한 핵심 방법으로 규정합니다. 유럽은 더 나아가 EU AI 법 제 50 조를 통해 특정 합성 콘텐츠는 기계 판독 가능해야 하며 딥페이크는 인공적으로 생성되거나 조작되었음을 명시하도록 요구하고 있습니다.

상업적 연관성이 점점 더 명확해지고 있습니다. SNS Insider는 딥페이크 감지 시장 규모를 2026 년 11 억 9 천만 달러로 평가하며, 이는 2035 년까지 121 억 4 천만 달러에 달할 것으로 전망하고 있으며, 연평균 성장률 (CAGR) 은 29.5%입니다.

아리조나의 한 판결만으로는 이 시장을 창출할 수 없습니다. 하지만 사건의 4분의 5 이상이 영상에 의존하고 있는 상황에서 증거의 진위 여부를 두고 다툼이 발생할 때마다 이를 검증할 도구에 대한 실질적인 필요성은 더욱 커집니다.

이는 법정 딥페이크를 법적 골칫거리에서 forensic 검증 솔루션을 판매하는 기업에게 실질적인 비즈니스 기회로 전환시킵니다. 중국도 같은 방향으로 움직이고 있으며, Cryptopolitan의 보도에 따르면 9 월에 AI 딥페이크 및 음성 복제와 관련된 새로운 책임 규정이 도입되었습니다.