바이든 딥페이크 영상, ANC가 5월 총선에서 승리할 경우 남아프리카공화국에 제재 부과 주장

최근 . 소셜 미디어 플랫폼에서 유포되고 있는, 조 바이든 대통령이 집권당인 아프리카민족회의(ANC)가 다가오는 총선에서 승리할 경우 남아프리카공화국에 제재를 가하겠다고 위협하는 내용의dent 은 딥페이크 영상입니다 

영상에서 미국 대통령dent "ANC가 다음 선거에서 승리하면 우리는 즉각적인 제재를 가하고 남아프리카공화국을 적대국으로 선포할 것입니다. 유럽연합 전체가 이를 지지할 것이며, 우리는 함께 남아프리카 국민의 자유를 위해 싸울 것입니다. 이것이 세계에 보내는 우리의 메시지입니다."라고 말하는 것이 들립니다.

허위 주장 및 딥페이크 탐지

해당 영상은 틱톡, 페이스북, 트위터 등의 플랫폼에서 폭발적인 인기를 얻었습니다. 조사 결과, 이 영상은 인공지능 기술, 특히 유명인 목소리 생성기인 패럿 AI를 이용해 제작된 것으로 밝혀졌습니다.

만약 집권당인 아프리카민족회의(ANC)가 2024년 5월 29일 총선에서 승리할 경우, 남아프리카공화국에 대한 제재가 부과될 것입니다. 현재 ANC는 30년 이상 남아프리카공화국에서 집권해 온 주요 정당입니다. 여론조사에 따르면, ANC는 1994년부터 의회를 장악해 왔지만, 2024년 5월 총선 이후에는 더 이상 의회에서 지배적인 세력이 아닐 가능성이 있습니다.

제재 대상 국가는 국제법을 준수하지 않은 것에 대한 불만을 표명하기 위해 무역이 제한되거나 완전히 중단됩니다. 유럽 연합(EU)은 주로 유럽에 위치한 27개 회원국으로 구성된 정치·경제 공동체입니다. 남아프리카공화국에서 5월 총선이 다가오면서 선거 관련 허위 정보가 . 현재 EU는 남아프리카공화국에 어떠한 제재도 가하지 않고 있습니다.

사실 확인 결과 조작임이 확인되었습니다.

인공지능 도구는 사람의 삶을 모방할 수 있으며, 유명인의 성격을 바탕으로 콘텐츠를 제작할 수 있습니다. AI 도구는 TV 인터뷰와 같은 공개된 영상에서 얻을 수 있는 인물의 목소리, 입 모양, 얼굴 움직임을 분석하는 데 집중하며, 이를 통해 유명인이 전혀 다른 말을 하는 것처럼 보이게 하는 새로운 영상을 만들어낼 수 있습니다. 이러한 유형의 조작을 딥페이크라고 합니다.

바이든 영상에서 인공지능이 생성한 영상임을 나타내는 몇 가지 분명한 징후가 발견되었습니다. 영상 전체의 조악함이 대표적입니다. 바이든의 입 모양 또한 로봇처럼 부자연스러워 인공지능 도구를 통해 제작되었다는 명확한 증거입니다.

구글 이미지 검색을 통해 AI가 생성한 해당 영상의 스크린샷이 여러 차례 복제된 것을 확인할 수 있습니다. 일부 버전에서는dent 영어가 아닌 다른 언어로 말하는 것처럼 묘사되기도 합니다. 신뢰할 만한 언론 매체에서는 2024년 총선 결과를 근거로 남아프리카공화국에 제재가 가해질 것이라는 경고 보도가 전혀 없었습니다. 이러한 발표가 있었다면 전 세계적으로 주요 뉴스가 되었을 것이므로, 이는 또 다른 문제점을 시사합니다.