Récemment, des fans de Taylor Swift, plus connus sous le nom de Swifties, ont été victimes d'une escroquerie de type Ponzi. L'arnaque reposait sur une vidéo truquée (deepfake) mettant en scène une Taylor Swift générée par intelligence artificielle, faisant faussement la promotion d'un concours pour gagner des ustensiles de cuisine Le Creuset.
L'attrait d'une approbation de célébrité truquée
La vidéo truquée, d'un réalisme stupéfiant, montrait un modèle d'IA ressemblant à Swift prononçant,
« Salut à tous, c'est Taylor Swift. Suite à une erreur d'emballage, nous ne pouvons pas vendre 3 000 coffrets de cuisine Le Creuset, alors je les offre gratuitement à mes fans les plus fidèles. »
Cette fausse publicité a exploité la propension connue de Taylor Swift à promouvoir ses marques préférées, une caractéristique qu'elle a souvent misedent sur les réseaux sociaux et dans des documentaires. L'utilisation astucieuse de son image dans la vidéo a trompé de nombreux fans, les amenant à croire à l'authenticité du concours.
Le Creuset et Meta, la société mère de Facebook, ont rapidement réagi à cette activité frauduleuse. Le Creuset a précisé, dans un communiqué officiel, que ni la marque ni Taylor Swift n'étaient impliquées dans cette publicité, soulignant que les promotions légitimes provenaient exclusivement de ses canaux officiels. Meta, de son côté, a confirmé le retrait de la publicité trompeuse de sa plateforme.
Les nouveaux défis de l'ère de l'IA
Cetdent met en lumière la complexité du paysage qui se dessine à l'ère de l'intelligence artificielle. Marva Bailer, experte reconnue en IA, a souligné les risques et les enjeux éthiques liés à l'utilisation de l'IA dans la création de contenu, notamment lorsqu'elle porte atteinte aux droits des individus et des marques. La facilité de création et de diffusion de contenu généré par l'IA pose des défis considérables, brouillant la frontière entre divertissement et représentations commerciales trompeuses.
La création et la consommation rapides de contenu, estimées à des milliers de publicités par jour, conjuguées à notre capacité d'attention de plus en plus réduite, facilitent l'infiltration de fausses publicités dans l'esprit des consommateurs. Cetdent met en garde contre la nécessité pour les consommateurs d'être vigilants et perspicaces, surtout à l'ère où l'IA est de plus en plus utilisée pour personnaliser et cibler le contenu.
