Deepfake basati sull'intelligenza artificiale del Primo Ministro e della famiglia reale del Regno Unito sfruttati nelle truffe crittografiche di Facebook  

Video generati dall'intelligenza artificiale del Primo Ministro britannico Kerr Starmer e del Principe William vengono utilizzati per pubblicizzare truffe basate sulle criptovalute su Facebook e Instagram. Secondo la società di ricerca Fenimore Harper, sono stati pubblicati oltre 250 annunci pubblicitari che promuovono una piattaforma chiamata "Immediate Edge" dopo le elezioni britanniche che hanno portato Starmer al potere a inizio luglio.

In un nuovo rapporto, Fenimore Harper ha affermato che Immediate Edge ha diffuso in modo aggressivo annunci deepfake a utenti ignari sui social media. Secondo il rapporto, l'annuncio della piattaforma ha raggiunto 890.000 persone su Facebook e Instagram. Immediate Edge avrebbe speso finora 21.000 sterline (27.000 dollari) per questi annunci. La società di ricerca ha individuato gli annunci utilizzando il modello linguistico di grandi dimensioni di Meta, Llama 3.1.

La truffa crittografica incoraggia gli spettatori a inviare denaro e informazioni personali  

Sia i video deepfake di Starmer che quelli del Principe William promettevano alle persone un'"opportunità che cambia la vita", accessibile solo inserendo dati personali come nome, numero di telefono ed email. La campagna promuoveva Immediate Edge come una nuova piattaforma sostenuta dal Primo Ministro del Regno Unito e dal Principe di Galles, dove si potevano guadagnare fino a 1.000 sterline al giorno.

Quando gli utenti cliccano sul link pubblicizzato, vengono indirizzati a una landing page in cui viene chiesto loro di fornire i propri dati personali. Secondo il rapporto, i truffatori di criptovalute contattano quindi gli utenti, incoraggiandoli a depositare denaro su una falsa piattaforma di trading online. I truffatori in genere mostrano un portafoglio falso con guadagni derivanti dal trading per indurre gli utenti a effettuare ulteriori depositi.

I truffatori di Immediate Edge sparivano ogni volta che un utente chiedeva di prelevare i propri fondi, ha spiegato Fenimore Harper.

In un esempio, il deepfake di Starmer viene citato dicendo:

“La tua vita sta per cambiare. Sono Keir Starmer, Primo Ministro del Regno Unito e leader del Partito Laburista. Ti stavo aspettando. Oggi è il tuo giorno fortunato. Non so come tu abbia trovato questa pagina, ma non te ne pentirai

Lo spot, realizzato tramite intelligenza artificiale, afferma che 45 persone sono state selezionate per guadagnare "denaro che ti cambierà la vita" tramite un misterioso progetto. Promette guadagni giornalieri di 1.000 sterline, pari a 7.000 sterline a settimana o 27.000 sterline al mese, senza bisogno di conoscenze pregresse o competenze specifiche. Afferma inoltre che "non si tratta di una truffa" e che Starmer stesso non ha richiesto nulla agli spettatori.

In alcune pubblicità si ricorreva a terze parti, citando il fatto che si trattava di un'iniziativa del Primo Ministro del Regno Unito.

In uno spot, un deepfake del Principe William avalla la piattaforma, esprimendo il sostegno della Famiglia Reale. Diceva: "Buon pomeriggio, onorati cittadini del Regno Unito. Sono lieto di annunciare che io, il Principe William, e l'intera Famiglia Reale sosteniamo pienamente l'iniziativa del Primo Ministro Keir Starmer e la sua nuova piattaforma"

Secondo il rapporto di Fenimore Harper, lo spot sostiene che l'iniziativa è necessaria e contribuirà a migliorare la vita dei cittadini, esortando gli spettatori a unirsi e a creare un futuro migliore per il Paese.

Facebook e Instagram continuano a lottare contro le truffe pubblicitarie sulle criptovalute 

Molti dei link utilizzati nella criptovaluta ora non portano da nessuna parte, afferma il rapporto, nonostante alcuni annunci deepfake siano ancora attivi. Gli annunci sono caduti nel radar anti-spam sia su Facebook che su Instagram. Anche Google non ha segnalato la truffa crypto. Le ricerche su Google su Immediate Edge hanno indicato agli utenti che la piattaforma è un software di trading legittimo.

Marcus Beard, fondatore di Fenimore Harper, afferma che se non verranno adottate misure severe, la disinformazione continuerà.

"Queste campagne ora possono impersonare con facilità personaggi noti e diffondere disinformazione online a un ritmo senza precedentident, ha affermato, come riportato dal quotidiano britannico Independentdent "Rappresentano un enorme rischio per i singoli individui, le figure pubbliche, le imprese e la nostra democrazia".

Sia Meta che Google hanno dichiarato di non tollerare la disinformazione e l'uso di deepfake basati sull'intelligenza artificiale sulle loro piattaforme. Da allora, Meta ha rimosso la maggior parte degli annunci illegali che coinvolgevano Starmer e il Principe William, ha dichiarato un portavoce. Google ha spiegato che i suoi "sistemi anti-spam aiutano a mantenere Google Search 99 libero dallo spam, nonostante i continui tentativi degli spammer"