Deepfakes de IA del Primer Ministro y la realeza del Reino Unido explotados en estafas de criptomonedas en Facebook  

Vídeos generados por IA del primer ministro británico, Kerr Starmer, y del príncipe Guillermo se están utilizando para publicitar estafas de criptomonedas en Facebook e Instagram. Según la firma de investigación Fenimore Harper, se han publicado más de 250 anuncios que promocionan una plataforma llamada "Immediate Edge" desde las elecciones británicas que llevaron a Starmer al poder a principios de julio.

En un nuevo informe, Fenimore Harper afirma que Immediate Edge promovió agresivamente los anuncios deepfake entre usuarios desprevenidos en redes sociales. Según el informe, la publicidad de la plataforma llegó a 890.000 personas en Facebook e Instagram. Asimismo, informa que hasta el momento, Immediate Edge ha gastado 21.000 libras esterlinas (27.000 dólares) en estos anuncios. La firma de investigación detectó que los anuncios utilizaban el modelo de lenguaje Llama 3.1 de Meta.

La estafa de criptomonedas alienta a los espectadores a enviar dinero e información personal  

Los videos deepfake de Starmer y del príncipe Guillermo prometían una "oportunidad transformadora", accesible únicamente añadiendo datos personales como nombre, número de teléfono y correo electrónico. La campaña promocionaba Immediate Edge como una nueva plataforma respaldada por el primer ministro del Reino Unido y el príncipe de Gales, donde se podían ganar hasta 1000 libras al día.

Cuando los usuarios hacen clic en el enlace anunciado, este los dirige a una página de destino donde se les solicita su información personal. Según el informe, los estafadores de criptomonedas se comunican con los usuarios para animarlos a depositar dinero en una plataforma de trading en línea falsa. Los estafadores suelen mostrar una cartera falsa con ganancias de trading para engañarlos y que realicen más depósitos.

Los estafadores de Immediate Edge desaparecieron cada vez que un usuario solicitaba retirar sus fondos, detalló Fenimore Harper.

En un ejemplo, se cita el deepfake de Starmer diciendo:

“Tu vida está a punto de cambiar. Soy Keir Starmer, primer ministro del Reino Unido y líder del Partido Laborista. Te he estado esperando. Hoy es tu día de suerte. No sé cómo encontraste esta página, pero no te arrepentirás

El anuncio, creado con inteligencia artificial, afirma que 45 personas han sido seleccionadas para ganar "dinero que les cambiará la vida" a través de un misterioso proyecto. Promete ganancias diarias de 1000 libras, lo que equivale a 7000 libras semanales o 27 000 libras mensuales, sin necesidad de conocimientos previos ni habilidades especiales. También afirma que "no es una estafa" y que Starmer no necesitaba nada de los espectadores.

Algunos de los anuncios utilizaban a terceros y afirmaban que se trataba de una iniciativa del Primer Ministro del Reino Unido.

En un anuncio, un deepfake del Príncipe Guillermo respalda la plataforma, expresando el apoyo de la Familia Real. Decía: «Buenas tardes, honorables ciudadanos del Reino Unido. Me complace anunciar que yo, el Príncipe Guillermo, y toda la Familia Real apoyamos plenamente la iniciativa del Primer Ministro Keir Starmer y su nueva plataforma»

Según el informe de Fenimore Harper, el anuncio afirma que la iniciativa es necesaria y ayudará a mejorar la vida de los ciudadanos, instando a los espectadores a unirse y crear un futuro mejor para el país.

Facebook e Instagram siguen luchando contra anuncios fraudulentos de criptomonedas 

Muchos de los enlaces utilizados en la criptomoneda ahora no llevan a ninguna parte, según el informe, a pesar de que algunos anuncios deepfake siguen activos. Los anuncios habían pasado desapercibidos para los sistemas antispam de Facebook e Instagram. Google tampoco detectó la estafa de criptomonedas. Las búsquedas de Google en Immediate Edge indicaron a los usuarios que la plataforma es un software de trading legítimo.

Marcus Beard, el fundador de Fenimore Harper, dice que a menos que se tomen medidas severas, la desinformación continuará.

«Estas campañas ahora pueden suplantar la identidad de figuras conocidas con facilidad y difundir desinformación en línea a un ritmo sin precedentesdent, declaró, según informó el periódico británico Independentdent «Representan un enorme riesgo para las personas, las figuras públicas, las empresas y nuestra democracia».

Tanto Meta como Google afirmaron que no toleran la desinformación ni el uso de deepfakes con IA en sus plataformas. Desde entonces, Meta ha retirado la mayoría de los anuncios ilegales que involucraban a Starmer y al príncipe Guillermo, según declaró un portavoz. Google explicó que sus sistemas antispam ayudan a mantener la Búsqueda de Google 99 libre de spam, a pesar de los constantes intentos de los spammers