Recientemente, los fans de Taylor Swift, conocidos popularmente como Swifties, se vieron atrapados en una estafa piramidal. La estafa consistía en un video deepfake con una Taylor Swift generada por IA, que promocionaba falsamente un sorteo de utensilios de cocina Le Creuset.
El atractivo de un deepfake como respaldo de una celebridad
El vídeo deepfake, asombrosamente realista, mostraba un modelo de IA parecido a Swift pronunciando:
Hola a todos, soy Taylor Swift. Debido a un error de empaque, no podemos vender 3000 juegos de utensilios de cocina Le Creuset, así que se los regalo a mis fieles seguidores
Este falso patrocinio aprovechó la conocida afición de Swift por promocionar sus marcas favoritas, una característicadent en sus apariciones en redes sociales y documentales. El astuto uso de la imagen de Swift en el video engañó a muchos fans, haciéndoles creer en la autenticidad del obsequio.
Le Creuset y Meta, la empresa matriz de Facebook, respondieron rápidamente a esta actividad fraudulenta. Le Creuset aclaró mediante un comunicado oficial que ni la marca ni Taylor Swift estaban involucradas en el anuncio, enfatizando que las promociones legítimas solo provendrían de sus canales oficiales. Meta, por su parte, confirmó la eliminación del anuncio engañoso de su plataforma.
Los desafíos emergentes en la era de la IA
Estedent pone de relieve el complejo panorama que emerge en la era de la inteligencia artificial. Marva Bailer, reconocida experta en IA, señaló los riesgos y las preocupaciones éticas que conlleva el uso de la IA en la creación de contenido, especialmente cuando infringe los derechos de personas y marcas. La facilidad para crear y distribuir contenido generado por IA plantea importantes desafíos, difuminando la línea entre el entretenimiento y las representaciones comerciales engañosas.
La rápida creación y consumo de contenido, estimado en miles de anuncios al día, sumado a nuestra capacidad de atención cada vez menor, facilita la infiltración de estos anuncios falsos en la conciencia del consumidor. Estedent es una advertencia sobre la necesidad de los consumidores de estar atentos y ser perspicaces, especialmente en una era donde la IA se utiliza cada vez más para personalizar y dirigir el contenido.
