AI가 생성한 테일러 스위프트의 영상이 필리핀에서 큰 화제를 모으고 있다. 이 영상은 두테르테 지지자들을 비판하는 내용을 담고 있다

필리핀에서 인공지능이 생성한 테일러 스위프트 영상이 화제가 되고 있습니다. 영상 속 스위프트는 영향력 있는 두테르테 가족 지지자들과 "멀리 떨어져 있어야 한다"고 말합니다.

한 틱톡 영상에서 미국의 슈퍼스타는 "두테르테 지지자들을 피하기 위해" 필리핀에서 예정됐던 "에라스" 투어를 취소했다고 밝혔습니다. AFP 통신해당 영상은 8월 10일 틱톡에 업로드되었습니다.

테일러 스위프트의 뮤직비디오는 정치적 갈등이 고조되는 가운데 공개되었습니다

해당 통신사는 영상 클립을 틱톡 계정에서 trac했으며, 계정 소유자는 인공지능 도구를 사용하여 유명인의 목소리를 재생성하거나 복제했다고 밝혔다고 전했다.

이 영상은 페르디난드 마르코스dent 과 사라 두테르테 부통령 간의 갈등이 고조되던 시점에 공개되었습니다. 두 지도자는 2022년 5월 선거에서 압도적인 승리를 거두었습니다.

가수는 영상에서 "두테르테 열성 지지자가 아닌 필리핀 사람들이 안타깝다"며 그들을 위해 공연하고 싶다고 말했다. 여기서 내레이션은 두테르테 열성 지지자들을 지칭하는 것이었다. 

영상 위에 타갈로그어로 된 자막이 겹쳐지면서 "DDS 여러분, 이 말을 들어보세요"라는 문구가 나타났습니다. 많은 소셜 미디어 사용자들은 스위프트의 영상이 진짜라고 생각했지만, 마르코스를 지지하지 않는 사용자들은 스위프트의 발언이 자신들이 지지하는 후보를 옹호하는 것이라고 해석했습니다.

이 영상 클립이 주목을 받은 또 다른 이유는 마르코스 가문과 두테르테 가문 모두 심각하고 공개적인 갈등을 겪고 있기 때문입니다. 양측은 2025년 중간선거를 앞두고 각자의 지지 기반을 강화하려 하고 있습니다.

2021년 인터뷰 영상 클립을 이용해 딥페이크 영상을 제작했습니다

해당 통신사에 따르면, 7월 30일 구글 이미지 검색을 통해 @DDSBeLike라는 틱톡 프로필을 발견했다고 합니다. 이 프로필은 풍자적인 게시물을 공유한다고 언급되어 있었습니다. 

이 계정에서 공유한 영상에는 스위프트의 뮤직비디오 원본이 담겨 있으며, 영상 아래에는 다른 두 장의 사진이 함께 있습니다. 한 장은dent 을 닮은 여성이 꽃관을 쓰고 있는 모습이고, 다른 한 장은 스위프트가 2024년 2월 호주 멜버른에서 공연하는 모습입니다.

영상 캡션에는 "여기에 에라스 투어가 ​​없는 것도 당연하다"라고 적혀 있습니다. 캡션은 그 이유를 DDS(두테르테 골수 지지자) 때문이라고 덧붙이며, DDS 지지자들이 내용을 읽지 않고 반응할 경우를 대비해 인공지능(AI)이 만든 것이라고 조롱합니다.

AFP 통신에 따르면 해당 프로필 사용자는 오늘 영상이 Starvoice.ai라는 AI 도구를 이용해 제작되었음을 확인했습니다. Starvoice.ai는 텍스트를 음성으로 변환하는 애플리케이션입니다. 보도에 따르면 해당 사용자는 이제 영상을 AI 생성 영상으로 표시했습니다. 이 표시는 AI로 제작되었거나 AI 편집 콘텐츠가 상당 부분 포함된 게시물에 나타납니다.

뉴스 통신사는 또한 버팔로 대학교 미디어 포렌식 연구소 소장인 시웨이 류의 말을 인용하며, 해당 영상이 인공지능으로 생성된 것이라고 밝혔습니다. 류 소장은 영상 속 스위프트의 입술과 치아에 나타난 이상 징후를 지적했는데, 이는 딥페이크의 명백한 특징입니다. 

추가 조사 결과, 보고서는 미국 가수의 딥페이크 영상을 제작하는 데 "Late Night with Seth"의 과거 인터뷰 영상이 악용되었다고 밝혔습니다. 원본 인터뷰는 2021년 11월에 진행된 것으로, 당시 그녀는 Eras 투어나 두테르테 지지자들에 대해 전혀 언급하지 않았습니다. 

앞서 테일러 스위프트는 인공지능이 생성한 광고에서 팬들에게 3000세트의 무쇠 냄비를 무료로 나눠준다는 허위 광고에 등장했는데, 실제로는 세트당 1000달러 상당의 제품이었다.