La tecnologia AI alimenta la sofisticata propaganda dei gruppi terroristici
La tecnologia AI alimenta la sofisticata propaganda dei gruppi terroristici
- Lo Stato Islamico utilizza l'AI nella sua propaganda online, inclusi anchor di notizie falsi e video contraffatti.
- L'AI ha reso possibile per gli estremisti produrre video di qualità superiore per diffondere la loro agenda.
- A causa delle restrizioni legali relativamente lasche sull'AI, è diventato difficile per i governi limitare l'uso della tecnologia da parte di organizzazioni radicali.
I sostenitori dello Stato Islamico, di fronte a significativi setbacks militari, stanno sempre più sfruttando l'intelligenza artificiale (AI) per generare sofisticata propaganda online. Gli esperti riportano che i sostenitori dell'IS sono stati in grado di produrre elaborata propaganda, come notiziari creati dall'IA in diverse lingue, utilizzando la tecnologia.
Leggi anche: I bot che utilizzano l'IA inondano i social media di disinformazione
Un caso esemplare è stato lo Stato Islamico del Khorasan (ISKP), che è una branca dell'IS attiva in Afghanistan e Pakistan. Dopo un attacco rivendicato dall'IS nella provincia di Bamiyan il 17 maggio, che ha ucciso quattro persone, tra cui tre turisti spagnoli, l'ISKP ha rilasciato un video di un presentatore delle notizie AI. Il presentatore, che parlava pashtu, sembrava la gente del posto e ha narrato l'attacco, mostrando l'uso del gruppo dell'IA per rendere il contenuto più credibile.
Le affiliate dell'IS impiegano presentatori delle notizie generati dall'IA
Un altro video prodotto dall'IA è stato rilasciato con un presentatore maschile virtuale che affermava che l'IS era dietro un attacco con bomba all'auto a Kandahar, in Afghanistan. L'esperto di cybersecurity Roland Abi Najem ha sottolineato l'efficienza di questi video deepfake guidati dall'IA, aggiungendo che l'IS ha utilizzato produzioni di qualità hollywoodiana per anni.
“L'IA ora ha strumenti facili da usare per creare contenuti falsi, sia testo, foto, audio o video, hai solo bisogno di dati, algoritmi e potenza di calcolo, quindi chiunque può creare contenuti generati dall'IA dalle loro case o garage.”
Roland Abi Najem
L'uso dell'IA da parte dell'IS per scopi di propaganda è stato ufficialmente avviato pochi giorni dopo un terribile atto di terrorismo a Mosca il 22 marzo, dove 145 persone sono state uccise. Gli esperti hanno sottolineato che un presentatore delle notizie AI è stato utilizzato per riportare questo attacco per la prima volta e che questo gruppo ha ricorso a diffondere notizie false attraverso l'IA.
Espandere l'influenza estremista tramite contenuti AI
Mona Thakkar, ricercatrice presso il Centro Internazionale per lo Studio dell'Estremismo Violento, ha detto che i sostenitori dell'IS utilizzano tecniche di generazione di personaggi.
“Questi sforzi hanno ottenuto risposte positive da altri utenti, riflettendo che, attraverso futuri sforzi collaborativi, molti sostenitori potrebbero produrre video di propaganda alimentati dall'IA di alta qualità e sofisticati per l'IS di durata maggiore con migliori grafica e tecniche di innovazione.”
Leggi anche: Cos'è la battaglia contro le fake news e l'IA nelle 2024 elezioni?
Thakkar ha anche notato che i membri che promuovono l'IS su Telegram incoraggiano l'uso di bot generatori di immagini AI poiché producono immagini di alta qualità per il canale perché questi bot sono efficaci e facili da usare. Questa pratica è indicativa dell'aumento dell'uso dell'IA come strumento per migliorare l'efficacia e la coesione dell'estremismo.
L'IA abilita le operazioni di influenza e il reclutamento
Anche se il gruppo ha perso considerevole terreno in Siria e Iraq, impiega ancora l'IA per diffondere il suo messaggio di odio e presentare una facciata di forza. Come dichiarato da Najem, con l'aiuto dell'IA, l'IS può creare video deepfake per influenzare celebrità e influencer specifici, principalmente i giovani, a unirsi all'organizzazione.
Leggi anche: L'IA rivoluziona gli sforzi antiriciclaggio e antiterrorismo
Il ricercatore della Global Network on Extremism and Technology Daniel Siegel ha spiegato che l'IA ha cambiato la natura delle operazioni di influenza online dei gruppi estremisti.
“L'impiego strategico di nasheed deepfake audio estremisti, che presentano personaggi animati e personalità di internet, segna un'evoluzione sofisticata nelle tattiche utilizzate dagli estremisti per ampliare la portata dei loro contenuti.”
Siegel ha anche dichiarato che altre organizzazioni terroristiche come al-Qaida e Hamas si sono rivolte all'IA per produrre contenuti per i loro seguaci. Mentre tali organizzazioni radicali utilizzano l'IA per creare contenuti dall'aspetto professionale, tradotti e convincenti, le autorità e i giganti della tecnologia devono trovare modi per contrastare queste minacce.
Reportage di Cryptopolitan da Brenda Kanana
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
