니콜라스 마두로가 권력에서 축출된 후, 베네수엘라에서 가짜 축하 행사를 연출하는 인공지능(AI) 제작 영상이 온라인에서 폭발적인 인기를 얻고 있다.
인공지능을 이용해 완전히 조작된 이 영상들은 수많은 군중이 환호하고, 깃발을 흔들며, 도널드 트럼프dent 과 미군에게 감사를 표하는 모습을 보여줍니다. 하지만 문제는 이 모든 것이 실제로 일어난 일이 아니라는 점입니다.
가장 먼저, 그리고 가장 빠르게 퍼져나간 영상 중 하나는 100만 명이 넘는 팔로워를 보유한 '월 스트리트 에이프스(Wall Street Apes)'라는 X 계정에서 게시한 것으로, 베네수엘라 시민들이 울고, 서로 껴안고, 마두로를 축출한 미국을 칭찬하는 모습을 담고 있습니다.
해당 게시물은 커뮤니티 알림에 의해 신고되었지만, 이미 38,000명이 공유하고 560만 명이 조회했으며, 심지어 사용자가 삭제하기 전에는 일론 머스크의 피드에도 올라왔습니다. 알림에는 다음과 같은 경고가 추가되었습니다
"이 영상은 인공지능이 생성한 것으로, 현재 사람들을 오도하기 위한 목적으로 사실인 것처럼 제시되고 있습니다."
AI 플랫폼은 베네수엘라에 대한 가짜 영상을 퍼뜨리는 데 일조하고 있습니다
BBC와 AFP의 사실 확인 담당자들은 해당 영상의 원본이 인공지능이 생성한 클립을 정기적으로 게시하는 @curiousmindusa라는 틱톡 계정에서 나온 것임을 trac냈습니다.
정확한 출처는 찾을 수 없었지만, 두 언론사 모두 해당 영상이 가장 초기 버전임을 확인했습니다. 이 영상은 대규모 군사 작전 미군이 마두로를 체포하기 위한 공습과 지상 공격을 감행한 1월 3일의
정부가 공식 발표를 하기 전부터 그의 구금 사진이 이미 온라인에 퍼져 있었고, 그 초기 사진들은 모두 가짜였다.
AFP는 오해의 소지가 있는 콘텐츠도 추가로 지적했습니다. 카라카스의 거리 축제처럼 보였던 한 영상은 베네수엘라 사람들이 거리에서 축하하는 모습인 것처럼 위장했지만, 사실은 칠레에서 촬영된 오래된 영상이었습니다.
인공지능이 속보를 조작하기 위해 현실을 왜곡하는 데 사용된 것은 이번이 처음이 아니며, defi마지막도 아닐 것입니다. 러시아-우크라이나 분쟁과 이스라엘-팔레스타인 분쟁 당시에도 유사한 패턴이 나타났습니다. 하지만 이번 베네수엘라 사태 조작 영상은 그 속도와 사실성이 남다르다는 점에서 이전과는 다릅니다.
같은 플랫폼 덕분 Sora 에 가짜 영상을 단 몇 분 만에 손쉽게 만들어낼 수 있게 되었고, 사람들은 계속해서 그런 영상에 속아 넘어가고 있습니다.
소셜 플랫폼들은 가짜 콘텐츠를 처리하는 데 어려움을 겪고 있다
이러한 영상들을 제작하는 사람들은 특정 정치적 메시지를 전달하거나 온라인상에서 혼란을 조장하려는 경우가 많습니다. 그리고 실제로 효과를 보고 있습니다. 작년에는 인공지능이 만든 영상에서 가짜 여성들이 미국 정부 셧다운 기간 동안 SNAP(식품 지원 프로그램) 혜택을 받지 못해 우는 모습이 포착되었습니다. 폭스 뉴스는 이 영상을 실제 영상처럼 방영했다가 결국 방송을 중단해야 했습니다.
이 모든 상황은 소셜 플랫폼이 AI 생성 콘텐츠에 더 명확한 라벨을 부착해야 한다는 요구를 더욱 거세게 만들었습니다. 인도는 법안을 발의했고 , 스페인은 라벨이 없는 콘텐츠에 대해 3,500만 유로의 벌금을 부과하는 법안을 승인했습니다.
일부 사이트들이 따라잡으려고 노력하고 있습니다. 틱톡과 메타는 AI 동영상을 감지하고 태그하는 도구를 개발했다고 밝혔습니다. CNBC는 틱톡에서 가짜 베네수엘라 영상 몇 개를 발견했는데, 이 영상들은 제대로 표시되어 있었습니다. 하지만 결과는 엇갈리고 있습니다.
반면 X는 주로 커뮤니티 노트 시스템에 의존합니다. 비평가들은 이 시스템이 충분히 빠르게 작동하지 않는다고 지적합니다. AI 경고가 표시될 때쯤이면 이미 수백만 명이 해당 콘텐츠를 시청하고 공유한 상태라는 것입니다.
플랫폼 책임자들조차 경고음을 울리고 있습니다. 인스타그램과 스레드를 운영하는 아담 모세리는 "모든 주요 플랫폼은 AI 콘텐츠를dent하는 데 상당한 노력을 기울이겠지만, AI가 현실을 모방하는 데 더욱 능숙해짐에 따라 시간이 지날수록 그 능력은 오히려 떨어질 것"이라고 게시했습니다
애덤은 고 덧붙였다“나와 마찬가지로 가짜 언론보다 진짜 언론의 신원을 식별하는 것이 더 실용적일 것이라고 믿는 사람들이 점점 늘어나고 있다”
