Fantasma en la máquina: herramientas de deepfake que alteran el panorama político de la India

El auge de la tecnología deepfake en vísperas de las elecciones nacionales está abriendo una nueva frontera en el espacio político de la India. Los partidos políticos pueden usar estas sofisticadas herramientas para resucitar a sus líderes en el mundo digital, creando videoclips y mensajes de voz donde la realidad habla, poniendo a prueba la frontera entre la realidad y la ficción.

Crecientes preocupaciones sobre la integridad de las elecciones

La aparición de esta tecnología ha suscitado preocupación tanto entre los funcionarios gubernamentales como entre los activistas, que consideran que su proliferación constituye otra gran amenaza a la integridad del proceso electoral de la India.

Y la última moda en la política india, mientras el país se prepara para unas maratónicas elecciones generales de seis semanas que comienzan el 19 de abril, es el uso de “apariciones fantasmales” de líderes muertos para cortejar a los votantes.

Resurrecciones digitales en una nueva estrategia de campaña

Líderes fallecidos como J. Jayalalithaa y M. Karunanidhi han sido resucitados digitalmente para influir en los votantes. Jayalalithaa falleció en 2016; sin embargo, según se informa, hizo una aparición pública criticando al actual gobierno estatal. Por otro lado, Karunanidhi falleció en 2018, y se dice que apareció en vídeos deepfake generados por IA elogiando a su hijo, el diputado Stalin, ministro principal del estado. La táctica creativa y accesible que esto crea para que los partidos eviten la pesadilla logística y lleguen a sus simpatizantes con un mensaje a medida es lo que ofrecerían las "apariciones fantasma".

Dilemas éticos y desinformación

El rápido avance de la tecnología deepfake ha generado dilemas éticos y alimentado campañas de desinformación. Creadores como Divyendra Jadoun, un deepfaker indio, ya han reportado un aumento sindenten la demanda de contenido generado por IA y, al mismo tiempo, cierta ansiedad por que la tecnología caiga en malas manos.

Jadoun admite que es muy difícil distinguir entre una solicitud ética y una no ética. Destaca que se requiere un razonamiento muy limitado para demostrar la legitimidad de una solicitud política basada en IA.

La amenaza a la democracia

Si bien la mayor parte del material de campaña producido por inteligencia artificial se utiliza para la sátira y el ridículo, los expertos advierten sobre las implicaciones más amplias para la democracia. El experto en tecnología y democracia Joyojeet Pal advirtió sobre la facilidad con la que las imágenes generadas por IA pueden tomarse como reales. Esto representa una grave amenaza para la posibilidad de la deliberación democrática, que presupone la competencia pública para distinguir la verdad de la ficción.

Ahora, con el cambio en el panorama político de la India, la tecnología ultrafalsa, que ha cobrado auge, trae consigo nuevas amenazas para las elecciones y la integridad democrática. La comunidad de interesados ​​tiene el papel de mantenerse constantemente vigilante para combatir la desinformación y proteger la integridad de la realidad y la ficción del proceso electoral. Con las elecciones generales a la vuelta de la esquina, el contenido generado por IA se cierne como un espectro, señalando la urgente necesidad de implementar medidas sólidas para contener esta amenaza inminente.