Swifties enfeitiçados por Taylor Swift gerada por IA em golpe com utensílios de cozinha

Em eventos recentes, fãs de Taylor Swift, popularmente conhecidos como Swifties, se viram envolvidos em um esquema Ponzi fraudulento. O golpe envolvia um vídeo deepfake com uma Taylor Swift gerada por inteligência artificial, promovendo falsamente um sorteio de panelas Le Creuset.

O fascínio de um endosso de celebridade criado com deepfake

O vídeo deepfake, surpreendentemente realista, mostrava um modelo de IA semelhante a Swift proferindo as seguintes palavras: 

"Olá a todos, aqui é a Taylor Swift. Devido a um erro de embalagem, não podemos vender 3.000 conjuntos de panelas Le Creuset, então estou distribuindo-os gratuitamente para meus fãs fiéis." 

Essa propaganda falsa explorou a conhecida inclinação de Swift para endossar suas marcas favoritas, uma característica que ficoudent em suas redes sociais e aparições em documentários. O uso astuto da imagem de Swift no vídeo enganou muitos fãs, levando-os a acreditar na autenticidade do sorteio.

A Le Creuset e a Meta, empresa controladora do Facebook, responderam prontamente a essa atividade fraudulenta. A Le Creuset esclareceu, por meio de um comunicado oficial, que nem a marca nem Taylor Swift estavam envolvidas no anúncio, enfatizando que as promoções legítimas seriam feitas apenas por meio de seus canais oficiais. A Meta, por sua vez, confirmou a remoção do anúncio enganoso de sua plataforma.

Os desafios emergentes na era da IA

Estedent destaca o cenário complexo que emerge na era da inteligência artificial. Marva Bailer, renomada especialista em IA, apontou os riscos e as preocupações éticas em torno do uso de IA na criação de conteúdo, especialmente quando infringe os direitos de indivíduos e marcas. A facilidade de criar e distribuir conteúdo gerado por IA apresenta desafios significativos, tornando tênue a linha divisória entre entretenimento e representações comerciais enganosas.

A rápida criação e o consumo de conteúdo, estimados em milhares de anúncios por dia, aliados à nossa capacidade de atenção cada vez menor, abrem caminho para que anúncios falsos como esses se infiltrem na consciência do consumidor. Odent serve de alerta sobre a necessidade de os consumidores serem vigilantes e criteriosos, especialmente em uma era em que a inteligência artificial é cada vez mais utilizada para personalizar e direcionar conteúdo.