Des deepfakes générés par l'IA représentant le Premier ministre britannique et des membres de la famille royale ont été exploités dans des arnaques aux cryptomonnaies sur Facebook  

Des vidéos générées par intelligence artificielle du Premier ministre britannique Kerr Starmer et du prince William sont utilisées pour promouvoir des arnaques aux cryptomonnaies sur Facebook et Instagram. Selon le cabinet d'études Fenimore Harper, plus de 250 publicités faisant la promotion d'une plateforme appelée « Immediate Edge » ont été diffusées depuis les élections britanniques qui ont porté Starmer au pouvoir début juillet.

Dans un nouveau rapport, Fenimore Harper affirme qu'Immediate Edge a diffusé de manière agressive des publicités truquées auprès d'utilisateurs non avertis sur les réseaux sociaux. Selon le rapport, la publicité de la plateforme a touché 890 000 personnes sur Facebook et Instagram. Immediate Edge aurait dépensé jusqu'à présent 21 000 £ (27 000 $) pour ces publicités. Le cabinet d'études a identifié ces publicités grâce au modèle de langage Llama 3.1 de Meta.

Cette arnaque aux cryptomonnaies encourage les internautes à envoyer de l'argent et des informations personnelles.  

Les vidéos truquées de Starmer et du prince William promettaient une « opportunité unique », accessible uniquement en fournissant des données personnelles telles que nom, numéro de téléphone et adresse e-mail. La campagne présentait Immediate Edge comme une nouvelle plateforme soutenue par le Premier ministre britannique et le prince de Galles, permettant de gagner jusqu'à 1 000 £ par jour.

Lorsque les utilisateurs cliquent sur le lien publicitaire, ils sont redirigés vers une page où il leur est demandé de fournir leurs informations personnelles. Selon le rapport, les escrocs contactent ensuite les victimes et les incitent à déposer de l'argent sur une fausse plateforme de trading en ligne. Ils présentent généralement un faux portefeuille affichant des gains pour tromper les utilisateurs et les inciter à effectuer davantage de dépôts.

Les escrocs d'Immediate Edge disparaissaient systématiquement dès qu'un utilisateur demandait à retirer ses fonds, a expliqué Fenimore Harper.

Dans un exemple, le deepfake de Starmer est cité disant :

“Votre vie est sur le point de changer. Je suis Keir Starmer, Premier ministre du Royaume-Uni et chef du Parti travailliste. Je vous attendais. Aujourd'hui est votre jour de chance. Je ne sais pas comment vous avez trouvé cette page, mais vous ne le regretterez pas.

Cette publicité générée par intelligence artificielle affirme que 45 personnes ont été sélectionnées pour gagner une somme d'argent considérable grâce à un projet mystérieux. Elle promet des revenus quotidiens de 1 000 £, soit 7 000 £ par semaine ou 27 000 £ par mois, sans aucune connaissance préalable ni compétence particulière. Elle affirme également qu'il ne s'agit pas d'une arnaque et que Starmer lui-même n'a rien demandé aux spectateurs.

Certaines publicités faisaient appel à des tiers tout en affirmant qu'il s'agissait d'une initiative du Premier ministre britannique.

Dans une publicité, un montage vidéo du prince William, réalisé avec une technique de deepfake, apporte son soutien à la plateforme et exprime celui de la famille royale. On peut y lire : « Bonjour, chers citoyens du Royaume-Uni. J’ai le plaisir de vous annoncer que moi, le prince William, et toute la famille royale, soutenons pleinement l’initiative du Premier ministre Keir Starmer et sa nouvelle plateforme. »

D'après le rapport de Fenimore Harper, la publicité affirme que l'initiative est nécessaire et contribuera à améliorer la vie des citoyens, incitant les téléspectateurs à y adhérer et à bâtir un avenir meilleur pour le pays.

Facebook et Instagram continuent de lutter contre les publicités frauduleuses liées aux cryptomonnaies. 

De nombreux liens utilisés dans la publicité pour les cryptomonnaies sont désormais inactifs, indique le rapport, même si certaines publicités truquées sont toujours diffusées. Ces publicités ont échappé aux filtres anti-spam de Facebook et d'Instagram. Google n'a pas non plus détecté cette escroquerie. Les résultats de recherche Google concernant Immediate Edge indiquaient aux utilisateurs que la plateforme était un logiciel de trading légitime.

Marcus Beard, le fondateur de Fenimore Harper, affirme que si des mesures fermes ne sont pas prises, la désinformation continuera.

« Ces campagnes peuvent désormais usurper l’identité de personnalités connues avec une facilité déconcertante et diffuser de la désinformation en ligne à undentrythme sans précédent », a-t-il déclaré, selon quotidien britannique Independentdent « Elles représentent un risque considérable pour les individus, les personnalités publiques, les entreprises et notre démocratie. »

Meta et Google ont tous deux déclaré ne pas tolérer la désinformation ni l'utilisation de deepfakes (images truquées générées par l'IA) sur leurs plateformes. Meta a depuis supprimé la plupart des publicités illégales impliquant Starmer et le prince William, a indiqué un porte-parole. Google a expliqué que ses « systèmes anti-spam contribuent à maintenir Google Search exempt de spam, malgré les tentatives toujours plus sophistiquées des spammeurs ».