Vídeo gerado por IA com Taylor Swift criticando apoiadores de Duterte viraliza nas Filipinas

Um vídeo gerado por IA de Taylor Swift está se tornando viral nas Filipinas. A cantora é mostrada dizendo que precisa “se manter longe” dos influentes apoiadores da família Duterte.

Em um vídeo no TikTok, a superestrela americana é mostrada dizendo que cancelou sua turnê “Eras” para o país apenas para “se manter longe dos apoiadores de Duterte”. De acordo com um relatório da AFP, o vídeo foi carregado na plataforma em 10 de agosto.

O clipe de Taylor Swift apareceu em meio a divisões políticas

A agência de notícias afirmou ter rastreado o clipe de vídeo até uma conta no TikTok, cujo proprietário disse ter usado uma ferramenta de inteligência artificial para regenerar ou clonar vozes de celebridades.

O vídeo surgiu em um momento em que havia crescentes divergências entre o presidente Ferdinand Marcos e sua vice, Sara Duterte. Ambos os líderes conquistaram uma vitória esmagadora nas eleições de maio de 2022.

A narração da cantora no vídeo dizia: “Sinto muito pelos filipinos que não são DDS”, acrescentando que ela quer se apresentar para eles. A narração referia-se aos apoiadores incondicionais de Duterte. 

Uma linha de texto em tagalo sobreposta ao vídeo também dizia: “Para DDS, ouçam isto”. Muitos usuários de redes sociais assumiram que o vídeo de Swift era genuíno, enquanto usuários que não apoiavam Marcos disseram que os comentários de Swift estavam a favor de seu candidato favorito.

O clipe de vídeo também chamou a atenção porque tanto as famílias Marcos quanto Duterte estão tendo sérias e públicas divergências. Eles estão tentando fortalecer suas bases de apoio separadas antes das eleições intermediárias de 2025.

Um clipe de entrevista de 2021 foi usado para criar o deepfake

De acordo com a agência de notícias, descobriu-se um perfil do TikTok @DDSBeLike por meio de uma busca reversa de imagem no Google em 30 de julho. O perfil mencionava que compartilhava posts satíricos. 

Uma versão sem recorte do vídeo de Swift pode ser vista em um vídeo compartilhado por esta conta, junto com duas outras fotos abaixo do clipe. Uma das fotos mostra uma mulher que se assemelha à vice-presidente exibindo uma coroa de flores, e a outra imagem mostra Swift se apresentando em Melbourne, Austrália, em fevereiro de 2024.

A legenda do vídeo diz que “não há surpresa de não haver uma turnê Eras aqui”. A legenda menciona ainda que é por causa do DDS (Apoiadores Incondicionais de Duterte). A legenda também zomba do DDS, dizendo que isso é IA caso eles reajam sem ler primeiro.

A AFP disse que o usuário do perfil confirmou hoje que o vídeo foi criado com uma ferramenta de IA chamada Starvoice.ai. A ferramenta é um aplicativo de texto para fala. O relatório disse que o usuário agora marcou o vídeo como gerado por IA. Este rótulo aparece em posts criados com IA ou que contêm uma parte significativa de conteúdo editado por IA.

A agência de notícias também mencionou Siwei Lyu, diretor do Laboratório de Forense de Mídia da Universidade de Buffalo, que disse que o vídeo é gerado por IA. Lyu também destacou anomalias nos lábios e dentes de Swift no vídeo, que são sinais óbvios de deepfakes. 

Em uma investigação mais aprofundada, o relatório disse que imagens antigas de uma entrevista do “Late Night with Seth” foram mal utilizadas para criar o deepfake da cantora dos EUA. A entrevista original data de novembro de 2021, durante a qual ela não fala sobre nenhuma turnê Eras ou apoiadores de Duterte. 

Anteriormente, Swift foi falsamente mostrada em um anúncio gerado por IA dizendo aos fãs que estava dando 3000 conjuntos de panelas de ferro fundido de graça para seus fãs, que na verdade valiam US$ 1000 cada.