Fantasma nella macchina: gli strumenti deepfake stanno alterando il panorama politico dell'India

L'ascesa della tecnologia deepfake in vista delle elezioni nazionali sta aprendo una nuova frontiera per lo spazio politico indiano. I partiti politici possono utilizzare strumenti così sofisticati per riportare in vita i loro leader nel mondo digitale, creando videoclip e messaggi vocali in cui la realtà parla, mettendo alla prova la soglia tra realtà e finzione.

Crescenti preoccupazioni sull'integrità delle elezioni

L'avvento di questa tecnologia ha suscitato preoccupazione sia tra i funzionari governativi che tra gli attivisti, che ritengono che la sua diffusione rappresenti un'altra grave minaccia all'integrità del processo elettorale indiano.

E l'ultima moda nella politica indiana, mentre il paese si prepara per una maratona elettorale di sei settimane a partire dal 19 aprile, è l'uso di "apparizioni fantasma" di leader defunti per corteggiare gli elettori.

Resurrezioni digitali in una nuova strategia di campagna

Leader defunti come J. Jayalalithaa e M. Karunanidhi sono stati resuscitati digitalmente per influenzare gli elettori. Jayalalithaa è scomparsa nel 2016; tuttavia, secondo quanto riferito, ha fatto un'apparizione vocale criticando l'attuale governo statale. D'altra parte, Karunanidhi è morto nel 2018 e si dice che sia apparso in video deepfake generati dall'intelligenza artificiale in cui elogiava suo figlio, MK Stalin, che è il primo ministro dello stato. La tattica creativa e conveniente che questo crea per i partiti al fine di evitare l'incubo logistico e raggiungere i sostenitori con un messaggio su misura è ciò che le "apparizioni fantasma" offrirebbero.

Dilemmi etici e disinformazione

Il rapido progresso della tecnologia deepfake ha sollevato dilemmi etici e alimentato campagne di disinformazione. Creatori come Divyendra Jadoun, un deepfaker indiano, hanno già segnalato un aumento senzadentdella domanda di contenuti generati dall'intelligenza artificiale e, allo stesso tempo, una certa preoccupazione per il fatto che la tecnologia possa finire nelle mani sbagliate.

Jadoun ammette che è molto difficile distinguere tra una richiesta etica e una non etica. Sottolinea il fatto che per dimostrare la legittimità di una richiesta politica basata sull'intelligenza artificiale è necessario un ragionamento molto sottile.

La minaccia alla democrazia

Sebbene la maggior parte del materiale elettorale prodotto dall'intelligenza artificiale venga utilizzato a fini satirici e ridicolizzanti, gli esperti mettono in guardia dalle implicazioni più ampie sulla democrazia. L'esperto di tecnologia e democrazia Joyojeet Pal ha messo in guardia dalla facilità con cui le immagini generate dall'intelligenza artificiale possono essere scambiate per reali. Ciò rappresenta una seria minaccia alla possibilità di deliberazione democratica, che presuppone la competenza pubblica nel distinguere la verità dalla finzione.

Ora, con il cambiamento del panorama politico in India, la tecnologia deep-fake che ha preso piede porta con sé nuove minacce alle elezioni e all'integrità democratica. La comunità degli stakeholder ha il compito di rimanere costantemente vigile nel contrastare la disinformazione e proteggere l'integrità della realtà e della finzione del processo elettorale. Con le elezioni generali alle porte, i contenuti generati dall'intelligenza artificiale incombono come uno spettro, evidenziando l'urgente necessità di attuare misure efficaci per contenere questa minaccia incombente.