Deepfake AI del Primo Ministro del Regno Unito e della Famiglia Reale sfruttati in truffe crypto su Facebook  

Video generati dall'IA del Primo Ministro del Regno Unito Kerr Starmer e del Principe William vengono utilizzati per pubblicizzare truffe crypto su Facebook e Instagram. Secondo l'azienda di ricerca Fenimore Harper, oltre 250 annunci che promuovono una piattaforma chiamata 'Immediate Edge' sono stati promossi dalle elezioni del Regno Unito che hanno portato Starmer al potere all'inizio di luglio.

In un nuovo rapporto, Fenimore Harper ha detto che Immediate Edge ha spinto aggressivamente gli annunci deepfake verso utenti insospettiti sui social media. Ha detto che l'annuncio della piattaforma ha raggiunto 890.000 persone su Facebook e Instagram. Ha riportato che finora, Immediate Edge ha speso 21.000 sterline (27.000 dollari) per questi annunci. L'azienda di ricerca ha trovato gli annunci utilizzando il modello linguistico di grandi dimensioni di Meta, Llama 3.1.

La truffa crypto incoraggia gli spettatori a inviare denaro e informazioni personali  

I video deepfake sia di Starmer che del Principe William hanno promesso alle persone una "opportunità che cambia la vita", accessibile solo aggiungendo dati personali come nome, numero di telefono ed email. La campagna ha promosso Immediate Edge come una nuova piattaforma sostenuta dal Primo Ministro del Regno Unito e dal Principe del Galles dove si può guadagnare fino a 1.000 sterline al giorno.

Quando gli utenti fanno clic sul link pubblicizzato, li porta a una pagina di atterraggio dove vengono richiesti di fornire le loro informazioni personali. Secondo il rapporto, i truffatori crypto avrebbero poi contattato gli utenti, incoraggiandoli a depositare denaro in una falsa piattaforma di trading online. I truffatori mostrano tipicamente un portafoglio falso con guadagni di trading per ingannare le persone a fare più depositi.

I truffatori di Immediate Edge sono scomparsi ogni volta che un utente ha richiesto di prelevare i propri fondi, ha dettagliato Fenimore Harper.

In un esempio, il deepfake di Starmer è citato dicendo:

“La tua sta per cambiare. Sono Keir Starmer, Primo Ministro del Regno Unito e leader del Partito Laburista. Ti ho aspettato. Oggi è il tuo giorno fortunato. Non so come hai trovato questa pagina, ma non te ne pentirai."

L'annuncio creato dall'IA afferma che 45 individui sono stati selezionati per guadagnare "denaro che cambia la vita" tramite un progetto misterioso. Promette guadagni giornalieri di 1.000 sterline, per un totale di 7.000 sterline a settimana o 27.000 sterline al mese, senza bisogno di alcuna conoscenza precedente o abilità speciali. Afferma anche che "questa non è una truffa" e che lo stesso Starmer non ha bisogno di nulla dagli spettatori.

Alcuni degli annunci utilizzavano terze parti citando che si trattava di un'iniziativa del Primo Ministro del Regno Unito.

In un annuncio, un deepfake del Principe William sostiene la piattaforma, esprimendo il sostegno della Famiglia Reale. Si leggeva: «Buon pomeriggio, onorati cittadini del Regno Unito. Sono lieto di annunciare che io, il Principe William, e l'intera Famiglia Reale sosteniamo pienamente l'iniziativa del Primo Ministro Keir Starmer e la sua nuova piattaforma.»

Secondo il rapporto di Fenimore Harper, l'annuncio sostiene che l'iniziativa è necessaria e aiuterà a migliorare la vita dei cittadini, esortando gli spettatori a unirsi e a creare un futuro migliore per il paese.

Facebook e Instagram continuano a lottare contro gli annunci truffa di criptovalute 

Molti dei link utilizzati nelle criptovalute ora non portano da nessuna parte, il rapporto ha detto che anche se alcuni degli annunci deepfake sono ancora in esecuzione. Gli annunci erano sfuggiti ai radar antispam su Facebook e Instagram. Anche Google non ha segnalato la truffa delle criptovalute. Le ricerche su Google di Immediate Edge dicevano agli utenti che la piattaforma è un software di trading legittimo.

Marcus Beard, fondatore di Fenimore Harper, afferma che a meno che non vengano prese misure severe, la disinformazione continuerà.

"Queste campagne possono ora impersonare figure ben note con facilità, e seminare disinformazione online a un ritmo senza precedenti", ha detto, come riportato dal giornale indipendente britannico. "Rappresentano un enorme rischio per gli individui, le figure pubbliche, le imprese e la nostra democrazia."

Sia Meta che Google hanno dichiarato di non approvare la disinformazione e l'uso di deepfake AI sulle loro piattaforme. Meta ha successivamente rimosso la maggior parte degli annunci illegali che coinvolgevano Starmer e il Principe William, ha dichiarato un portavoce. Google ha spiegato che i suoi «sistemi di lotta allo spam aiutano a mantenere Google Search libero dallo spam per il 99%, nonostante i tentativi in continua evoluzione degli spammer.»