Des deepfakes d’IA du Premier ministre britannique et de la famille royale exploités dans des arnaques crypto sur Facebook  

Des vidéos générées par IA du Premier ministre britannique Keir Starmer et du prince William sont utilisées pour promouvoir des arnaques crypto sur Facebook et Instagram. Selon le cabinet de recherche Fenimore Harper, plus de 250 publicités promouvant une plateforme appelée « Immediate Edge » ont été diffusées depuis les élections britanniques qui ont porté Starmer au pouvoir en début de juillet.

Dans un nouveau rapport, Fenimore Harper a déclaré qu’Immediate Edge poussait agressivement les publicités deepfake vers des utilisateurs peu méfiants sur les réseaux sociaux. Il a indiqué que la publicité de la plateforme avait atteint 890 000 personnes sur Facebook et Instagram. Il a rapporté qu’à ce jour, Immediate Edge avait dépensé 21 000 £ (27 000 $) pour ces publicités. Le cabinet de recherche a trouvé les publicités en utilisant le modèle de langage large de Meta, Llama 3.1.

L’arnaque crypto encourage les spectateurs à envoyer de l’argent et des informations personnelles  

Les vidéos deepfake de Starmer et du prince William promettaient aux gens une « opportunité de changer leur vie », accessible uniquement en ajoutant des données personnelles telles que le nom, le numéro de téléphone et l’e-mail. La campagne promouvait Immediate Edge comme une nouvelle plateforme soutenue par le Premier ministre britannique et le prince de Galles, où l’on pouvait gagner jusqu’à 1 000 £ par jour.

Lorsque les utilisateurs cliquent sur le lien publicitaire, ils sont dirigés vers une page de destination où on leur demande de fournir leurs informations personnelles. Selon le rapport, les arnaqueurs crypto contacteraient ensuite les utilisateurs, les encourageant à déposer de l’argent sur une fausse plateforme de trading en ligne. Les arnaqueurs montrent généralement un faux portefeuille avec des gains de trading pour tromper les gens et les inciter à effectuer plus de dépôts.

Les arnaqueurs d’Immediate Edge disparaissaient chaque fois qu’un utilisateur demandait à retirer ses fonds, a détaillé Fenimore Harper.

Dans un exemple, le deepfake de Starmer est cité disant :

“Votre vie est sur le point de changer. Je suis Keir Starmer, Premier ministre du Royaume-Uni et leader du Parti travailliste. Je vous attendais. Aujourd’hui est votre jour de chance. Je ne sais pas comment vous avez trouvé cette page, mais vous ne le regretterez pas. »

La publicité créée par l’IA affirme que 45 individus ont été sélectionnés pour gagner « de l’argent qui changera leur vie » via un projet mystérieux. Elle promet des gains quotidiens de 1 000 £, soit 7 000 £ par semaine ou 27 000 £ par mois, sans nécessiter de connaissances préalables ou de compétences spéciales. Elle affirme également que « ce n’est pas une arnaque » et que Starmer lui-même ne demandait rien aux spectateurs.

Certaines publicités utilisaient des tiers tout en citant qu’il s’agissait d’une initiative du Premier ministre britannique.

Dans une publicité, un deepfake du prince William endosse la plateforme, exprimant le soutien de la famille royale. Il a dit : « Bon après-midi, citoyens honorés du Royaume-Uni. Je suis heureux d’annoncer que je, le prince William, et toute la famille royale soutenons pleinement l’initiative du Premier ministre Keir Starmer et sa nouvelle plateforme. »

Selon le rapport de Fenimore Harper, la publicité affirme que l’initiative est nécessaire et aidera à améliorer la vie des citoyens, exhortant les spectateurs à rejoindre et à créer un avenir meilleur pour le pays.

Facebook et Instagram continuent de lutter contre les publicités d’arnaque crypto 

Beaucoup des liens utilisés dans la crypto mènent maintenant nulle part, a indiqué le rapport, même si certaines des publicités deepfake sont toujours en cours. Les publicités étaient passées sous le radar anti-spam sur Facebook et Instagram. Google a également échoué à signaler l’arnaque crypto. Les recherches Google sur Immediate Edge indiquaient aux utilisateurs que la plateforme était un logiciel de trading légitime.

Marcus Beard, fondateur de Fenimore Harper, déclare que tant que des mesures sévères ne seront pas prises, la désinformation continuera.

« Ces campagnes peuvent désormais imiter facilement des personnalités bien connues et semer la désinformation en ligne à un rythme sans précédent », a-t-il déclaré, comme rapporté par le journal britannique Independent. « Elles présentent un risque énorme pour les individus, les personnalités publiques, les entreprises et notre démocratie. »

Tant Meta que Google ont déclaré qu’ils ne toléraient pas la désinformation et l’utilisation de deepfakes IA sur leurs plateformes. Meta a depuis retiré la plupart des publicités illégales impliquant Starmer et le prince William, a déclaré un porte-parole. Google a expliqué que ses « systèmes de lutte contre le spam aident à garder Google Search exempt de 99 % de spam, malgré les tentatives toujours évolutives des spammeurs. »