O Congresso Nacional Indiano (INC) e o Partido Bharatiya Janata (BJP) começaram a usar conteúdo político criado por inteligência artificial em seus perfis oficiais do Instagram. O uso de inteligência artificial na criação e disseminação de mensagens políticas sinaliza uma mudança paradigmática na política visual, levantando questões sobre transparência e divulgação.
Em 20 de fevereiro, o Congresso Nacional Indiano (INC) lançou um vídeo satírico no Instagram, parodiando o primeiro-ministro Narendra Modi através de um álbum de música hindi chamado "Chor" (ladrão). O vídeo, visualizado mais de 1,5 milhão de vezes, retrata de forma humorística um magnata dos negócios tentando roubar, com Modi aparentemente entregando ativos cruciais. Embora não seja hiper-realista, o conteúdo utiliza memes gerados por inteligência artificial, aproveitando a voz e as feições de Modi para acentuar as críticas às suas supostas ligações com magnatas dos negócios.
Em resposta, o BJP, com mais de sete milhões de seguidores no Instagram, publicou um vídeo de um minuto destacando as conquistas de Modi nos últimos nove anos. O diferencial está no uso de uma voz gerada por inteligência artificial cantando uma canção patriótica em hindi, enfatizando as contribuições de Modi para os agricultores e cientistas indianos. O áudio, cuja origem foi confirmada por especialistas forenses, representou uma mudança significativa para os partidos políticos na Índia.
As guerras da IA desafiam as políticas das plataformas
Uma investigação da Al Jazeera revelou pelo menos três casos de conteúdo criado ou alterado por IA nas contas oficiais do Instagram dos dois principais partidos políticos desde 20 de fevereiro. O conteúdo, incluindo vídeos republicados no YouTube e no Facebook, levanta preocupações sobre os limites das políticas das plataformas em relação a conteúdo político enganoso. As regras atuais da Meta exigem que os anunciantes divulguem o uso de IA em anúncios políticos, mas essa exigência não se estende a páginas e contas políticas.
Embora a Meta não tenha respondido às perguntas sobre as políticas de rotulagem de IA, o Conselho de Supervisão instou a empresa a expandir sua política de mídia manipulada para abranger áudio falso e rotular conteúdo enganoso. Por outro lado, o YouTube planeja exigir que os criadores divulguem o uso de IA em conteúdo alterado ou sintético realista, conforme declarado em uma postagem de blog de novembro de 2023.
Apesar de apresentar discrepânciasdent de deepfake, o vídeo do INC gerou muitas risadas online, destacando a crescente influência de memes aprimorados por IA na comunicação política. Vaibhav Walia, presidente da sala de guerra de comunicação do INC para as eleições de 2024, enfatizou a eficácia da comunicação baseada em memes para transmitir a mensagem do partido nas redes sociais. Ele observou que o uso de IA está alinhado com a necessidade de criar conteúdo diferenciado que atraia a atenção dos eleitores na era das tendências de mídias sociais impulsionadas por memes.
No entanto, os vídeos supostamente manipulados por IA do BJP representaram um desafio para os especialistas em detecção, com opiniões divididas sobre se o conteúdo foi realmente aprimorado por IA. O porta-voz do partido, Gaurav Bhatia, manteve-se em silêncio sobre o assunto. A recriação, gerada por IA, de uma canção hindi da década de 1970, confirmada por especialistas, utilizou o modelo de conversão de voz baseado em recuperação (RVC) para transformar sinteticamente uma voz única na do lendário cantor Mahendra Kapoor.
Apelo por transparência obrigatória no conteúdo de IA política
À medida que as organizações políticas utilizam cada vez mais a IA para a criação de conteúdo, especialistas defendem a divulgação obrigatória de conteúdo editado por IA em páginas políticas. Dada a rápida capacidade da IA de imitar a realidade, tais divulgações tornam-se cruciais para prevenir a desinformação. No entanto, a Comissão Eleitoral da Índia não emitiu diretrizes sobre a partilha de conteúdo alterado por IA por partidos políticos.
A pesquisadora de desinformação Tarunima Prabhakar enfatizou a necessidade de transparência, visto que o conteúdo gerado por IA está cada vez mais capaz de imitar a realidade de forma convincente. A sátira política que utiliza IA, incluindo a tecnologia deepfake, exige proteção para preservar a liberdade de expressão. A necessidade de transparência torna-se ainda mais crucial em contextos democráticos, onde as regulamentações devem distinguir entre sátira e desinformação.
À medida que os partidos políticos na Índia adotam a IA para a criação de conteúdo, o panorama da comunicação política passa por uma transformação profunda. As implicações éticas do uso da IA em mensagens políticas e os desafios de detecção e divulgação exigem uma abordagem criteriosa. Conforme a tecnologia evolui, as regulamentações e as medidas de transparência também devem evoluir para garantir o uso responsável da IA na construção de narrativas políticas. O surgimento de conteúdo político aprimorado por IA marca um momento crucial, exigindo um delicado equilíbrio entre inovação e considerações éticas na era digital em constante evolução.
