Em eventos recentes, fãs de Taylor Swift, popularmente conhecidos como Swifties, se viram envolvidos em um esquema Ponzi fraudulento. O golpe envolvia um vídeo deepfake com uma Taylor Swift gerada por inteligência artificial, promovendo falsamente um sorteio de panelas Le Creuset.
O fascínio de um endosso de celebridade criado com deepfake
O vídeo deepfake, surpreendentemente realista, mostrava um modelo de IA semelhante a Swift proferindo as seguintes palavras:
"Olá a todos, aqui é a Taylor Swift. Devido a um erro de embalagem, não podemos vender 3.000 conjuntos de panelas Le Creuset, então estou distribuindo-os gratuitamente para meus fãs fiéis."
Essa propaganda falsa explorou a conhecida inclinação de Swift para endossar suas marcas favoritas, uma característica que ficoudent em suas redes sociais e aparições em documentários. O uso astuto da imagem de Swift no vídeo enganou muitos fãs, levando-os a acreditar na autenticidade do sorteio.
A Le Creuset e a Meta, empresa controladora do Facebook, responderam prontamente a essa atividade fraudulenta. A Le Creuset esclareceu, por meio de um comunicado oficial, que nem a marca nem Taylor Swift estavam envolvidas no anúncio, enfatizando que as promoções legítimas seriam feitas apenas por meio de seus canais oficiais. A Meta, por sua vez, confirmou a remoção do anúncio enganoso de sua plataforma.
Os desafios emergentes na era da IA
Estedent destaca o cenário complexo que emerge na era da inteligência artificial. Marva Bailer, renomada especialista em IA, apontou os riscos e as preocupações éticas em torno do uso de IA na criação de conteúdo, especialmente quando infringe os direitos de indivíduos e marcas. A facilidade de criar e distribuir conteúdo gerado por IA apresenta desafios significativos, tornando tênue a linha divisória entre entretenimento e representações comerciais enganosas.
A rápida criação e o consumo de conteúdo, estimados em milhares de anúncios por dia, aliados à nossa capacidade de atenção cada vez menor, abrem caminho para que anúncios falsos como esses se infiltrem na consciência do consumidor. Odent serve de alerta sobre a necessidade de os consumidores serem vigilantes e criteriosos, especialmente em uma era em que a inteligência artificial é cada vez mais utilizada para personalizar e direcionar conteúdo.
