La tecnologia Deepfake, che utilizza piattaforme come Midjourney 5.1 e DALL-E 2 di OpenAI, ha dimostrato notevoli capacità nella produzione di immagini e video realistici. Tuttavia, il Federal Bureau of Investigation (FBI) degli Stati Uniti ha recentemente emesso un avvertimento, affermando che i criminali stanno sfruttando i deepfake per prendere di mira le vittime di estorsioni.
L'FBI mette in guardia il pubblico sulla truffa dell'estorsione
Secondo l'FBI, ha ricevuto segnalazioni di vittime, inclusi minori e adulti non consenzienti, le cui foto o video sono stati manipolati per creare contenuti espliciti. In un avviso di servizio pubblico (PSA) pubblicato lunedì, l'agenzia ha evidenziato la crescente prevalenza di casi di estorsione online, in particolare quelli che coinvolgono "truffe di sextortion" che utilizzano deepfake. Solo l’anno precedente le forze dell’ordine hanno ricevuto oltre 7.000 segnalazioni di estorsioni online ai danni di minori, con un aumento di dent legati ai deepfake da aprile.
I deepfake sono contenuti audio o video fabbricati e generati attraverso l'intelligenza artificiale, che spesso rendono difficile discernere l'autenticità del materiale. L'ascesa di piattaforme come Midjourney 5.1 e DALL-E 2 di OpenAI ha contribuito alla sofisticazione e all'accessibilità della tecnologia deepfake. Sfortunatamente, ciò ha anche consentito ad autori malintenzionati di sfruttare la tecnologia per scopi illeciti.
L’agenzia evidenzia i rischi associati all’utilizzo della tecnologia
L'avvertimento dell'FBI arriva sulla scia di diversi dent che evidenziano i potenziali pericoli dei deepfake. Ad esempio, un video deepfake con Tesla e il CEO di Twitter Elon Musk è stato ampiamente diffuso per ingannare gli investitori di criptovaluta. Il video manipolato utilizzava filmati delle precedenti interviste di Musk, abilmente modificati per adattarsi alla narrativa della truffa.
È essenziale notare che non tutti i deepfake sono dannosi. Alcuni deepfake hanno attirato l'attenzione per i loro elementi umoristici o creativi, come un video che raffigura Papa Francesco con indosso una giacca Balenciaga bianca. Inoltre, i deepfake generati dall’intelligenza artificiale sono stati utilizzati per ricreare digitalmente individui deceduti, con l’obiettivo di riportarli in vita in vari contesti.
In risposta a queste minacce, l’FBI ha fornito raccomandazioni per proteggersi dalle estorsioni legate ai deepfake. Si sconsiglia di pagare qualsiasi riscatto, poiché ciò non garantisce che i criminali si asterranno dal pubblicare il contenuto deepfake. L'agenzia sottolinea inoltre l'importanza di prestare attenzione quando si condividono informazioni personali e contenuti online, suggerendo l'uso di funzionalità di privacy per limitare l'accesso agli account. Monitorare le attività online dei bambini, prestare attenzione ai comportamenti insoliti dei conoscenti passati e condurre frequenti ricerche online di informazioni personali e familiari sono ulteriori misure raccomandate dall'FBI.
