Às vésperas das eleições antecipadas de 5 de março no país, um vídeo falso com três políticos proeminentes do Nepal revelou como a inteligência artificial está sendo usada como arma.
O vídeo, inteiramente gerado por computador, mostrava o ex-prefeito de Katmandu, Balendra Shah, o ex-chefe do setor elétrico, Kulman Ghising, e o líder do Partido Rastriya Swatantra, Rabi Lamichhane, caminhando juntos.
Muitas pessoas pensaram que uma nova aliança política estava surgindo quando o vídeo viralizou na internet. No entanto, como todo o encontro foi gerado por computador, os três políticos nunca se encontraram de verdade.
O vídeo falso representa apenas um exemplo do conteúdo produzido por inteligência artificial que agora satura os espaços digitais do Nepal à medida que a votação se aproxima. A eleição ocorre apenas seis meses após violentas manifestações lideradas por jovens que exigiam o fim da corrupção. Esses protestos forçaram a saída do então primeiro-ministro KP Sharma Oli e mergulharam o sistema político do país em turbulência.
Em decorrência dessa crise de confiança, proliferaram as falsificações digitais direcionadas a figuras públicas. O vice-dentdo Partido Rastriya Swatantra, Swarnim Wagle, apresentou queixa à Divisão de Crimes Cibernéticos da Polícia do Nepal. Uma gravação de áudio falsa foi criada para dar a impressão de que ele teria tido uma conversa com o primeiro-ministro da Índia, o que jamais ocorreu.
Essas gravações de áudio falsas representam riscos únicos no Nepal, como demonstrado pelos esforços de verificação de fatos do Poynter. As mensagens de voz se espalham rapidamente por grupos de bate-papo familiares e redes sociais, muitas vezes chegando a destinatários que não conseguem confirmar sua autenticidade. A falta de confiabilidade das ferramentas usadas para identificardentalterados significa que as pessoas comuns têm meios limitados de distinguir entre falsidades e verdade.
As tentativas do governo de controlar a questão frequentemente pioraram a situação. Devido à falta de registro junto aos órgãos reguladores, o Facebook, o X e o YouTube foram bloqueados pelas autoridades durante as manifestações de setembro.
A proibição desencadeou mais violência em vez de acalmar os ânimos. A Reuters documentou pelo menos 77 mortes e milhares de feridos durante o caos que se seguiu. As autoridades acabaram por suspender as restrições, mas odent demonstrou por que o bloqueio autoritário não funciona. A informação falsa simplesmente migrou para canais mais difíceis de monitorar.
A Comissão Eleitoral do Nepal tentou abordar esses desafios por meio de políticas. Sua "Política sobre o uso de mídias sociais na gestão eleitoral" de 2021 estabeleceu diretrizes iniciais. Um novo projeto de código de conduta para a próxima votação proíbe especificamente informações falsas e contas falsas destinadas a influenciar os eleitores.
No entanto, especialistas alertam que essas regras precisam de atualizações imediatas para a era da IA generativa. Questões permanecem sem resposta: O que exatamente constitui mídia sintética? As campanhas devem divulgar o conteúdo criado com auxílio de IA? Quem é responsabilizado quando informações falsas se espalham?
Especialistas pedem uma resposta
Na ausência de regulamentações perfeitas, especialistas e grupos de monitoramento estão pressionando por soluções mais abrangentes. O Poynter e outras organizações de mídia semelhantes recomendam diversas medidas: veículos de notícias e verificadores de fatos devem investigar cada vídeo viral como se fosse um crime, tracsua origem e demonstrando como o verificaram.
Partidos políticos e candidatos devem prometer não usar deepfakes e identificar claramente qualquer material criado por IA. Empresas de mídia social devem criar equipes de resposta rápida familiarizadas com os idiomas e a política do Nepal. Cidadãos comuns devem adotar uma abordagem de "triagem de dez segundos", parando, verificando e confirmando antes de compartilhar informações alarmantes.
A Divisão de Crimes Cibernéticos da Polícia do Nepal já está se preparando para ataques mais sofisticados no âmbito técnico. O superintendente Ray, oficial da divisão, afirmou: “A inteligência artificial está se tornando cada vez mais presente e sendo utilizada de diversas maneiras. Em breve, poderemos presenciar crimes e ataques cibernéticos facilitados pela IA .”
Ray também observou que a relativa novidade da tecnologia pode proporcionar alguma margem de manobra. Ele acredita que a tecnologia ainda está em sua infância e está apenas sendo adotada pelo público, então pode levar um pouco mais de tempo para que ela seja usada como uma ferramenta de destruição.
“Estamos bem equipados para combater esses crimes e ameaças, e assim deve ser”, disse Ray. Ele acrescentou, para tranquilizar a população: “A Polícia do Nepal pode investigar qualquer ação. A única coisa que levará tempo para ser investigada são os ataques vindos do exterior .”
