AI 생성 테일러 스위프트 영상, 두테르테 지지자 비판하며 필리핀에서 바이럴

테일러 스위프트의 AI 생성 영상이 필리핀에서 바이럴되고 있습니다. 이 가수는 영향력 있는 두테르테 가족 지지자들을 “피해야 한다”고 말하는 모습이 보입니다.

틱톡(TikTok) 영상에서 미국 슈퍼스타는 ‘Eras’ 투어를 취소하고 ‘두테르테 지지자들을 피하기 위해’ 해당 국가를 떠나겠다고 말한 것으로 보입니다. AFP 보도에 따르면, 이 영상은 8월 10일 플랫폼에 업로드되었습니다.

테일러 스위프트의 클립은 정치적 균열 속에서 등장했습니다

뉴스 에이전시는 해당 동영상을 틱톡 계정으로 추적했으며, 해당 계정의 소유자는 유명인의 목소리를 재생성하거나 복제하기 위해 인공지능(AI) 도구를 사용했다고 밝혔다.

이 영상은 페르디난드 마르코스 대통령과 그의 부통령 사라 두테르테 간에 갈등이 깊어지던 시점에 등장했다. 두 지도자는 모두 2022년 5월 선거에서 압승을 거두었다.

가수의 내레이션은 영상에서 “DDS(열성 두테르테 지지자)가 아닌 필리핀 사람들을 불쌍하게 생각한다”며 그들을 위해 공연하고 싶다고 밝혔다. 여기서 DDS는 Diehard Duterte Supporters(열성 두테르테 지지자)를 의미한다. 

영상 위에 겹쳐진 타갈로그어 텍스트에는 “DDS여, 이것을 들어라”라고 적혀 있었다. 많은 소셜 미디어 사용자는 스위프트의 영상이 진위라고 가정했으며, 마르코스를 지지하지 않는 사용자들은 스위프트의 발언이 자신의 좋아하는 후보를 지지하는 것이라고 해석했다.

이 영상은 마르코스 가문과 두테르테 가문 모두 serious하고 공개적인 의견 차이를 겪고 있기 때문에 주목을 받았다. 그들은 2025년 중간선거를 앞두고 각각의 지지 기반을 강화하려 노력하고 있다.

2021 인터뷰 클립이 딥페이크 제작에 사용됨

뉴스 에이전시에 따르면, 7월 30일 구글 역방향 이미지 검색을 통해 @DDSBeLike라는 틱톡 프로필을 발견했다. 해당 프로필은 풍자적인 게시물을 공유한다고 명시했다. 

이 계정이 공유한 영상에는 스위프트의 영상 컷이 잘리지 않은 전체 버전으로 포함되어 있었으며, 아래에는 두 장의 사진이 더 있었다. 한 사진은 꽃 왕관을 쓴 부통령과 비슷한 여성을 보여주고 있고, 다른 사진은 2024년 2월 오스트레일리아 멜버른에서 공연하는 스위프트의 모습을 담고 있다.

영상의 캡션에는 “여기서 에라 투어(Eras tour)가 없는 것이 놀랍지 않다”라고 적혀 있다. 캡션은 이것이 DDS(열성 두테르테 지지자) 때문이라고 언급하며, DDS를 향해 먼저 읽지 않고 반응할 경우 이것이 AI임을 조롱했다.

AFP는 해당 프로필 사용자가 오늘 해당 영상이 Starvoice.ai라는 AI 도구를 사용하여 제작되었음을 확인했다고 밝혔다. 이 도구는 텍스트를 음성으로 변환하는(text-to-speech) 애플리케이션이다. 보고서는 사용자가 이제 해당 영상을 AI 생성물로 표시했다고 전했다. 이 라벨은 AI로 생성되거나 AI 편집된 콘텐츠가 상당 부분 포함된 게시물에 나타난다.

뉴스 에이전시는 또한 버팔로 대학교 미디어 포렌식 연구소 소장인 시웨이 뤼(Siwei Lyu)를 언급했으며, 그는 해당 영상이 AI로 생성되었다고 밝혔다. 뤼는 또한 영상에서 스위프트의 입과 치아에 이상 징후가 있음을 강조했는데, 이는 딥페이크의 명백한 징후이다. 

추가 조사 결과, 보고서는 “Late Night with Seth”의 오래된 인터뷰 영상이 미국 가수 스위프트의 딥페이크를 만드는 데 오용되었음을 밝혔다. 원래 인터뷰는 2021년 11월로 거슬러 올라가며, 당시 그녀는 에라 투어나 두테르테 지지자에 대해 언급하지 않았다. 

이전에 스위프트는 팬들에게 3000세트의 주철 냄비를 무료로 증정한다고 주장하는 AI 생성 광고에 잘못 등장했으며, 이 냄비들은 실제로 각각 1000달러의 가치가 있었다.