In vista delle imminenti elezioni anticipate del 5 marzo, un falso filmato con tre importanti politici del Nepal ha rivelato come l'intelligenza artificiale venga utilizzata come arma.
Il video, interamente generato al computer, mostrava l'ex sindaco di Kathmandu Balendra Shah, l'ex responsabile del settore elettrico Kulman Ghising e il leader del partito Rastriya Swatantra Rabi Lamichhane mentre camminavano insieme.
Quando il video è diventato virale su internet, molti hanno pensato che stesse nascendo una nuova alleanza politica. Tuttavia, poiché l'intero incontro è stato generato al computer, i tre politici non si sono mai realmente incontrati.
Il video falso rappresenta solo un esempio dei contenuti creati dall'intelligenza artificiale che stanno ormai saturando gli spazi digitali del Nepal con l'avvicinarsi delle elezioni. Le elezioni si svolgono a soli sei mesi dalle violente manifestazioni guidate dai giovani che chiedevano la fine della corruzione. Quelle proteste costrinsero alle dimissioni l'allora primo ministro KP Sharma Oli e gettarono nel caos il sistema politico del paese.
A causa di questa crisi di fiducia, le contraffazioni digitali che prendono di mira personaggi noti sono fiorite. Ildentdel partito Rastriya Swatantra, Swarnim Wagle, ha presentato una denuncia al Cyber Bureau della polizia nepalese. È stata realizzata una falsa registrazione audio per far credere che avesse avuto una conversazione con il primo ministro indiano, che non ha mai avuto luogo.
Queste falsificazioni audio rappresentano rischi specifici in Nepal, come dimostrato dalle attività di fact-checking di Poynter. I messaggi vocali si diffondono rapidamente attraverso gruppi di chat familiari e social media, raggiungendo spesso destinatari che non sono in grado di verificarne l'autenticità. L'inaffidabilità degli strumenti utilizzati per identificaredentaudio alterato fa sì che le persone comuni abbiano mezzi limitati per distinguere tra falsità e verità.
I tentativi del governo di controllare la situazione hanno spesso peggiorato la situazione. A causa della mancata registrazione presso gli enti regolatori, Facebook, X e YouTube sono stati bloccati dalle autorità durante le manifestazioni di settembre.
Il divieto ha scatenato ulteriore violenza invece di placare le tensioni. Reuters ha documentato almeno 77 morti e migliaia di feriti durante il caos che ne è seguito. Alla fine le autorità hanno revocato le restrizioni, ma l'dent ha dimostrato perché i blocchi drastici non funzionano. Le informazioni false si sono semplicemente spostate su canali più difficili da monitorare.
La Commissione elettorale del Nepal ha cercato di affrontare queste sfide attraverso delle politiche. La sua "Politica sull'uso dei social media nella gestione elettorale" del 2021 ha stabilito le prime linee guida. Una nuova bozza di codice di condotta per le prossime elezioni vieta specificamente la diffusione di informazioni false e la creazione di account falsi con l'intento di influenzare gli elettori.
Tuttavia, gli esperti avvertono che queste regole necessitano di aggiornamenti immediati per adattarsi all'era dell'intelligenza artificiale generativa. Restano aperte alcune domande: cosa si intende esattamente per media sintetici? Le campagne pubblicitarie dovrebbero divulgare i contenuti creati con l'ausilio dell'intelligenza artificiale? Chi è ritenuto responsabile quando si diffondono informazioni false?
Gli esperti chiedono una risposta
In assenza di normative perfette, specialisti e gruppi di monitoraggio stanno spingendo per soluzioni più ampie. Poynter e organizzazioni mediatiche simili raccomandano diversi passaggi: le organizzazioni giornalistiche e i fact-checker dovrebbero indagare su ogni video virale come se si trattasse di un reato, tracl'origine e dimostrando come lo hanno verificato.
I partiti politici e i candidati dovrebbero impegnarsi a non utilizzare deepfake e a etichettare chiaramente qualsiasi materiale creato dall'intelligenza artificiale. Le aziende di social media dovrebbero istituire team di risposta rapida che conoscano le lingue e la politica del Nepal. I cittadini comuni dovrebbero adottare un approccio di "triage in dieci secondi", fermandosi, verificando e confermando prima di condividere affermazioni scioccanti.
L' Ufficio di Polizia Cibernetica del Nepal si sta già preparando ad affrontare attacchi più sofisticati dal punto di vista tecnico. SP Ray, un funzionario dell'ufficio, ha dichiarato: "L'intelligenza artificiale sta diventando sempre più importante e viene utilizzata in diversi modi. Presto potremmo assistere a crimini e attacchi informatici resi più facili dall'IA ."
Ray ha anche osservato che la relativa novità della tecnologia potrebbe offrire un certo margine di manovra. Ritiene che la tecnologia sia ancora agli albori e che sia solo ora in fase di adozione da parte del pubblico, quindi potrebbe volerci ancora un po' di tempo prima di poterla utilizzare come strumento di distruzione.
«Siamo ben equipaggiati per combattere questi crimini e queste minacce, ed è giusto che sia così», ha affermato Ray. Ha poi aggiunto, in tono rassicurante: «La polizia nepalese può indagare su qualsiasi azione. L'unica cosa che richiederà più tempo per essere esaminata sono gli attacchi provenienti dall'estero .»
