Deepfakes de IA del Primer Ministro del Reino Unido y miembros de la Familia Real explotados en estafas cripto en Facebook  

Se están utilizando videos generados por IA del primer ministro británico, Keir Starmer, y del príncipe Guillermo para anunciar estafas de criptomonedas en Facebook e Instagram. Según la firma de investigación Fenimore Harper, más de 250 anuncios que promueven una plataforma llamada 'Immediate Edge' se han difundido desde las elecciones del Reino Unido que llevaron a Starmer al poder a principios de julio.

En un nuevo informe, Fenimore Harper afirmó que Immediate Edge impulsó agresivamente los anuncios con deepfakes a usuarios desprevenidos en redes sociales. Indicó que el anuncio de la plataforma ha llegado a 890.000 personas en Facebook e Instagram. Reportó que hasta ahora, Immediate Edge ha gastado £21.000 (27.000 $) en estos anuncios. La firma de investigación encontró los anuncios utilizando el modelo de lenguaje grande de Meta, Llama 3.1.

La estafa de criptomonedas anima a los espectadores a enviar dinero e información personal  

Tanto los videos deepfake de Starmer como los del príncipe Guillermo prometieron a las personas una 'oportunidad que cambiará su vida', accesible solo mediante el suministro de datos personales como nombre, número de teléfono y correo electrónico. La campaña promocionó Immediate Edge como una nueva plataforma respaldada por el primer ministro del Reino Unido y el príncipe de Gales, donde se puede ganar hasta £1.000 al día.

Cuando los usuarios hacen clic en el enlace publicitado, son redirigidos a una página de aterrizaje donde se les solicita proporcionar su información personal. Según el informe, los estafadores de criptomonedas luego contactan a los usuarios, animándolos a depositar dinero en una plataforma de comercio en línea falsa. Los estafadores suelen mostrar un portafolio falso con ganancias comerciales para engañar a las personas y hacer que realicen más depósitos.

Los estafadores de The Immediate Edge desaparecían cada vez que un usuario solicitaba retirar sus fondos, detalló Fenimore Harper.

En un ejemplo, se cita al deepfake de Starmer diciendo:

“Tu vida está a punto de cambiar. Soy Keir Starmer, Primer Ministro del Reino Unido y líder del Partido Laborista. He estado esperándote. Hoy es tu día de suerte. No sé cómo encontraste esta página, pero no te arrepentirás.

El anuncio creado con IA afirma que 45 personas han sido seleccionadas para ganar "dinero que cambiará su vida" a través de un proyecto misterioso. Promete ganancias diarias de £1,000, lo que equivale a £7,000 por semana o £27,000 al mes, sin necesidad de conocimientos previos ni habilidades especiales. También afirma que "esto no es una estafa" y que el propio Starmer no necesitaba nada de los espectadores.

Algunos de los anuncios utilizaron terceros mientras citaban que era una iniciativa del Primer Ministro del Reino Unido.

En un anuncio, un deepfake del Príncipe Guillermo respalda la plataforma, expresando el apoyo de la Familia Real. Decía: "Buenas tardes, ciudadanos honrados del Reino Unido. Me complace anunciar que yo, el Príncipe Guillermo, y toda la Familia Real apoyamos plenamente la iniciativa del Primer Ministro Keir Starmer y su nueva plataforma."

Según el informe de Fenimore Harper, el anuncio afirma que la iniciativa es necesaria y ayudará a mejorar la vida de los ciudadanos, instando a los espectadores a unirse y crear un futuro mejor para el país.

Facebook e Instagram siguen luchando contra anuncios de estafas cripto 

Muchos de los enlaces utilizados en las criptomonedas ahora no llevan a ningún lugar, dijo el informe, incluso aunque algunos anuncios con deepfakes aún se están ejecutando. Los anuncios habían pasado desapercibidos por los sistemas anti-spam tanto de Facebook como de Instagram. Google también falló al detectar la estafa cripto. Las búsquedas de Google sobre Immediate Edge indicaron a los usuarios que la plataforma es un software de trading legítimo.

Marcus Beard, fundador de Fenimore Harper, dice que a menos que se tomen medidas severas, la desinformación continuará.

«Estas campañas ahora pueden suplantar a figuras conocidas con facilidad y sembrar desinformación en línea a un ritmo sin precedentes», dijo, como informó el periódico independiente del Reino Unido. «Representan un gran riesgo para los individuos, las figuras públicas, las empresas y nuestra democracia».

Tanto Meta como Google dijeron que no aprueban la desinformación ni el uso de deepfakes con IA en sus plataformas. Un portavoz indicó que Meta ha eliminado la mayoría de los anuncios ilegales que involucran a Starmer y al Príncipe William. Google explicó que sus «sistemas de lucha contra el spam ayudan a mantener Google Search 99% libre de spam, a pesar de los intentos siempre evolutivos de los spammers».