Fantasma na Máquina: Ferramentas Deepfake Alterando o Cenário Político da Índia

A ascensão da tecnologia deepfake na corrida para as eleições nacionais está abrindo uma nova fronteira para o cenário político da Índia. Partidos políticos podem usar essas ferramentas sofisticadas para ressuscitar seus líderes no mundo digital, criando videoclipes e mensagens de voz onde a realidade se impõe, testando a tênue linha entre fato e ficção.

Crescentes preocupações com a integridade das eleições

O surgimento dessa tecnologia gerou preocupação tanto de autoridades governamentais quanto de ativistas, que consideram a proliferação da tecnologia mais uma grande ameaça à integridade do processo eleitoral da Índia.

E a última moda na política indiana, enquanto o país se prepara para uma maratona de eleições gerais de seis semanas, com início em 19 de abril, é o uso de "aparições fantasmas" de líderes falecidos para atrair eleitores.

Ressurreições digitais em uma nova estratégia de campanha

Líderes falecidos como J. Jayalalithaa e M. Karunanidhi foram ressuscitados digitalmente para influenciar eleitores. Jayalalithaa faleceu em 2016; no entanto, segundo relatos, ela fez uma aparição em áudio criticando o atual governo estadual. Por outro lado, Karunanidhi morreu em 2018 e diz-se que ele apareceu em vídeos deepfake gerados por inteligência artificial elogiando seu filho, MK Stalin, que é o governador do estado. A tática criativa e acessível que isso proporciona aos partidos, permitindo evitar o pesadelo logístico e alcançar apoiadores com uma mensagem personalizada, é o que as "aparições fantasmas" oferecem.

Dilemas éticos e desinformação

O rápido avanço da tecnologia deepfake gerou dilemas éticos e alimentou campanhas de desinformação. Criadores como Divyendra Jadoun, um deepfaker indiano, já relataram um aumento semdentna demanda por conteúdo gerado por IA e, ao mesmo tempo, uma certa ansiedade em relação à tecnologia cair em mãos erradas.

Jadoun admite que é muito difícil distinguir entre uma solicitação ética e uma antiética. Ele enfatiza o fato de que é necessário um raciocínio muito superficial para comprovar a legitimidade de uma solicitação política baseada em inteligência artificial.

A ameaça à democracia

Embora a maior parte do material de campanha produzido por inteligência artificial seja usada para sátira e ridicularização, especialistas alertam para implicações mais amplas na democracia. O especialista em tecnologia e democracia Joyojeet Pal advertiu sobre a facilidade com que imagens geradas por IA podem ser consideradas reais. Isso representa uma ameaça muito séria à possibilidade de deliberação democrática, que pressupõe a competência pública para distinguir a verdade da ficção.

Com a mudança no cenário político da Índia, a tecnologia deepfake, que ganhou força, traz consigo novas ameaças às eleições e à integridade democrática. A comunidade de partes interessadas tem o papel de permanecer vigilante no combate à desinformação e na proteção da integridade do processo eleitoral, distinguindo entre realidade e ficção. Com as eleições gerais se aproximando, o conteúdo gerado por inteligência artificial surge como um fantasma, evidenciando a necessidade urgente de implementar medidas robustas para conter essa ameaça iminente.