I sostenitori dello Stato Islamico, di fronte a significative sconfitte militari, stanno sfruttando sempre più l'intelligenza artificiale (IA) per generare sofisticata propaganda online. Gli esperti riferiscono che i sostenitori dell'IS sono stati in grado di produrre una propaganda elaborata, come notiziari creati dall'IA in diverse lingue, utilizzando questa tecnologia.
Leggi anche: I bot che utilizzano l'intelligenza artificiale inondano i social media di disinformazione
Un esempio calzante è lo Stato Islamico Khorasan (ISKP), una branca dell'ISIS attiva in Afghanistan e Pakistan. Dopo un attacco rivendicato dall'ISIS nella provincia di Bamiyan il 17 maggio, in cui sono morte quattro persone, tra cui tre turisti spagnoli, l'ISKP ha pubblicato un video di un conduttore di un telegiornale basato sull'intelligenza artificiale. Il conduttore, che parlava pashtu, assomigliava alla gente del posto e ha narrato l'attacco, mostrando l'uso dell'intelligenza artificiale da parte del gruppo per rendere i contenuti più credibili.
Gli affiliati dell'IS implementano presentatori di notizie generati dall'intelligenza artificiale
È stato diffuso un altro video prodotto dall'intelligenza artificiale, in cui un presentatore virtuale maschile affermava che l'ISIS era dietro un attentato con autobomba a Kandahar, in Afghanistan. L'esperto di sicurezza informatica Roland Abi Najem ha sottolineato l'efficacia di questi video deepfake basati sull'intelligenza artificiale, aggiungendo che l'ISIS si avvale da anni di produzioni di qualità hollywoodiana.
"L'intelligenza artificiale ora dispone di strumenti semplici da utilizzare per creare contenuti falsi, che si tratti di testo, foto, audio o video. Bastano dati, algoritmi e potenza di calcolo, così chiunque può creare contenuti generati dall'intelligenza artificiale da casa o dal garage."
Roland Abi Najem
L'uso dell'intelligenza artificiale da parte dell'ISIS a fini propagandistici è stato ufficialmente avviato pochi giorni dopo il terribile attentato terroristico avvenuto a Mosca il 22 marzo, in cui sono state uccise 145 persone. Gli esperti hanno sottolineato che per la prima volta è stato utilizzato un conduttore di un telegiornale dotato di intelligenza artificiale per denunciare l'attacco e che il gruppo ha fatto ricorso alla diffusione di fake news tramite l'intelligenza artificiale.
Espansione dell'influenza estremista tramite contenuti AI
Mona Thakkar, ricercatrice presso l'International Center for the Study of Violent Extremism, ha affermato che i sostenitori dell'ISIS utilizzano tecniche di generazione del carattere.
“Questi sforzi hanno ottenuto risposte positive da altri utenti, a dimostrazione del fatto che, attraverso futuri sforzi collaborativi, molti sostenitori potrebbero produrre video di propaganda basati sull'intelligenza artificiale, sofisticati e di alta qualità per l'ISIS, di durata più lunga, con una grafica migliore e più tecniche innovative”
Leggi anche: Qual è la battaglia tra fake news e intelligenza artificiale nelle elezioni del 2024?
Thakkar ha anche osservato che i membri che promuovono l'ISIS su Telegram incoraggiano l'uso di bot generatori di immagini basati sull'intelligenza artificiale, poiché producono immagini di alta qualità per il canale, essendo efficaci e facili da usare. Questa pratica è indicativa del crescente utilizzo dell'intelligenza artificiale come strumento per migliorare l'efficacia e la coesione dell'estremismo.
L'intelligenza artificiale consente operazioni di influenza e reclutamento
Nonostante il gruppo abbia perso notevolmente terreno in Siria e Iraq, continua a utilizzare l'intelligenza artificiale per diffondere il suo messaggio d'odio e apparire come una forza apparente. Come affermato da Najem, con l'aiuto dell'intelligenza artificiale, l'ISIS può creare video deepfake per convincere celebrità e influencer, soprattutto giovani, ad aderire all'organizzazione.
Leggi anche: L'intelligenza artificiale rivoluziona la lotta al riciclaggio di denaro e al terrorismo
Daniel Siegel, ricercatore della Global Network on Extremism and Technology, ha spiegato che l'intelligenza artificiale ha cambiato la natura delle operazioni di influenza online dei gruppi estremisti.
“L'impiego strategico di nasheed audio deepfake estremisti, con personaggi animati e personalità di Internet, segna un'evoluzione sofisticata nelle tattiche utilizzate dagli estremisti per ampliare la portata dei loro contenuti.”
Siegel ha anche affermato che altre organizzazioni terroristiche come al-Qaeda e Hamas si sono rivolte all'intelligenza artificiale per produrre contenuti per i propri seguaci. Mentre queste organizzazioni radicali utilizzano l'intelligenza artificiale per creare contenuti dall'aspetto professionale, tradotti e convincenti, le autorità e i giganti della tecnologia devono trovare il modo di contrastare queste minacce.
Reportage Cryptopolitan Brenda Kanana
