L'FBI solleva l'allarme sulle truffe di estorsione con deepfake IA

La tecnologia deepfake, che utilizza piattaforme di IA generativa come Midjourney 5.1 e DALL-E 2 di OpenAI, ha dimostrato capacità notevoli nel produrre immagini e video realistici. Tuttavia, il Federal Bureau of Investigation (FBI) degli Stati Uniti ha recentemente emesso un avvertimento, affermando che i criminali stanno sfruttando i deepfake per prendere di mira le vittime per estorsione.

L'FBI avverte il pubblico sulla truffa di estorsione

Secondo l'FBI, ha ricevuto segnalazioni da vittime, inclusi minori e adulti non consenzienti, le cui foto o video sono state manipolate per creare contenuti espliciti. In un avviso di servizio pubblico (PSA) rilasciato lunedì, l'agenzia ha evidenziato la crescente prevalenza di casi di estorsione online, in particolare quelli che coinvolgono "truffe di sextortion" che impiegano deepfake. Le agenzie di applicazione della legge hanno ricevuto oltre 7.000 segnalazioni nell'anno precedente solo riguardo all'estorsione online mirata ai minori, con un aumento degli incidenti correlati ai deepfake da aprile.

I deepfake sono contenuti audio o video falsi generati tramite intelligenza artificiale, che spesso rendono difficile discernere l'autenticità del materiale. L'ascesa di piattaforme come Midjourney 5.1 e DALL-E 2 di OpenAI ha contribuito alla sofisticazione e all'accessibilità della tecnologia deepfake. Sfortunatamente, questo ha anche consentito ad attori malintenzionati di sfruttare la tecnologia per scopi illeciti.

L'agenzia evidenzia i rischi associati all'utilizzo della tecnologia

L'avviso dell'FBI arriva in seguito a diversi incidenti che mettono in luce i potenziali pericoli dei deepfake. Ad esempio, un video deepfake che ritraeva il CEO di Tesla e Twitter, Elon Musk, è stato ampiamente diffuso per ingannare gli investitori di criptovalute. Il video manipolato utilizzava riprese di precedenti interviste di Musk, abilmente montate per adattarsi alla narrazione della truffa.

È essenziale notare che non tutti i deepfake sono malevoli. Alcuni deepfake hanno attirato l'attenzione per i loro elementi umoristici o creativi, come un video virale che ritrae Papa Francesco indossa una giacca bianca di Balenciaga. Inoltre, i deepfake generati dall'IA sono stati impiegati per ricreare digitalmente individui defunti, mirando a riportarli in vita in vari contesti.

In risposta a queste minacce, l'FBI ha fornito raccomandazioni per proteggersi dall'estorsione legata ai deepfake. Sconsiglia di pagare qualsiasi riscatto, poiché ciò non garantisce che i criminali si asterranno dal pubblicare i contenuti deepfake. L'agenzia sottolinea inoltre l'importanza di esercitare cautela nella condivisione di informazioni personali e contenuti online, suggerendo l'uso di funzionalità di privacy per limitare l'accesso agli account. Monitorare le attività online dei bambini, essere vigili nei confronti di comportamenti insoliti da parte di ex conoscenti e condurre ricerche frequenti di informazioni personali e sui familiari sono ulteriori misure raccomandate dall'FBI.