I deepfake dell'IA minacciano le prossime 5-esime elezioni del Nepal

In vista delle imminenti elezioni anticipate del 5 marzo, un falso filmato che ritrae tre prominenti politici del Nepal ha rivelato come l'IA venga utilizzata come arma.

Il video, interamente generato al computer, ritraeva l'ex sindaco di Kathmandu Balendra Shah, l'ex capo del settore elettrico Kulman Ghising e il leader del Rastriya Swatantra Party Rabi Lamichhane che camminavano insieme.

Molti pensavano che si stesse formando una nuova alleanza politica quando il video è diventato virale su internet. Tuttavia, poiché l'intero incontro è stato generato al computer, i tre politici non si sono mai realmente incontrati.

Le falsificazioni audio si diffondono attraverso i social reti

Il video falso rappresenta solo un esempio di contenuti fabbricati dall'IA che ora saturano gli spazi digitali del Nepal mentre si avvicina il voto. Le elezioni si terranno a soli sei mesi dopo le violente manifestazioni guidate dai giovani che chiedevano la fine della corruzione. Quelle proteste hanno costretto alle dimissioni l'allora primo ministro K.P. Sharma Oli e hanno lasciato il sistema politico della nazione in preda al caos.

Le falsificazioni digitali che prendono di mira personaggi famosi sono fiorite a causa di questa crisi di fiducia. Il vicepresidente del Partito Rastriya Swatantra, Swarnim Wagle, ha presentato un reclamo presso la Cyber Bureau della Polizia del Nepal. È stata creata una falsa registrazione audio per dare l'impressione che avesse una conversazione con il primo ministro dell'India, conversazione che non è mai avvenuta.

Queste falsificazioni audio pongono rischi unici in Nepal, come dimostrato dagli sforzi di fact-checking di Poynter. I messaggi vocali viaggiano rapidamente attraverso i gruppi di chat familiari e i social media, raggiungendo spesso destinatari incapaci di confermarne la legittimità. L'affidabilità degli strumenti utilizzati per identificare l'audio alterato è bassa, il che significa che le persone comuni hanno mezzi limitati per distinguere tra falsità e verità.

I tentativi del governo di controllare la questione hanno spesso peggiorato le cose. A causa del mancato registro presso le autorità di regolamentazione, Facebook, X e YouTube sono stati bloccati dalle autorità durante le manifestazioni di settembre.

Il divieto ha innescato ulteriore violenza invece di calmare le tensioni. Reuters ha documentato almeno 77 morti e migliaia di feriti durante il caos che è seguito. I funzionari hanno infine revocato le restrizioni, ma l'incidente ha mostrato perché il blocco pesante non funziona. Le informazioni false si sono semplicemente spostate su canali più difficili da monitorare.

La Commissione Elettorale del Nepal ha cercato di affrontare queste sfide attraverso la politica. La loro “Politica sull’uso dei social media nella gestione elettorale” del 2021 ha stabilito linee guida iniziali. Un nuovo progetto di codice di condotta per le prossime elezioni vieta specificamente le informazioni false e i falsi account intesi a influenzare gli elettori.

Tuttavia, gli specialisti avvertono che queste regole necessitano di aggiornamenti immediati per l'era dell'intelligenza artificiale generativa. Rimangono domande senza risposta: cosa costituisce esattamente i media sintetici? Le campagne dovrebbero divulgare i contenuti creati con l'assistenza dell'IA? Chi è ritenuto responsabile quando si diffondono informazioni false?

Gli esperti chiedono una risposta coordinata risposta

Senza regolamentazioni perfette in atto, specialisti e gruppi di monitoraggio spingono per soluzioni più ampie. Poynter e organizzazioni mediatiche simili raccomandano diversi passaggi: le organizzazioni giornalistiche e i fact-checker dovrebbero investigare ogni video virale come un crimine, tracciandone l'origine e dimostrando come l'hanno verificato.

I partiti politici e i candidati dovrebbero promettere di non utilizzare deepfake e di etichettare chiaramente qualsiasi materiale creato con l'IA. Le aziende di social media dovrebbero istituire team di risposta rapida familiari con le lingue e la politica del Nepal. I cittadini comuni dovrebbero adottare un approccio di "triage di dieci secondi", fermandosi, controllando e confermando prima di condividere affermazioni scioccanti.

La Cyber Bureau della Polizia del Nepal si sta già preparando per attacchi più avanzati sul lato tecnico. SP Ray, un funzionario della bureau, ha dichiarato: “L'IA sta diventando più grande e viene utilizzata in più modi. Presto potremmo vedere crimini e attacchi informatici resi più facili dall'IA.”

Ray ha anche notato che la relativa novità della tecnologia potrebbe fornire un po' di respiro. Crede che la tecnologia dell'IA sia ancora nella sua infanzia e sia appena adottata dal pubblico, quindi potrebbe volerci un po' di più prima che venga utilizzata come strumento di distruzione.

“Siamo ben attrezzati per combattere questi crimini e minacce, e dovremmo esserlo”, ha detto Ray. Ha aggiunto rassicurazioni: “La Polizia del Nepal può indagare su qualsiasi azione. L'unica cosa che richiederà tempo da indagare sono gli attacchi provenienti da terra straniera.”