- Falsificações geradas por IA estão se espalhando antes das eleições do Nepal em 5 de março, incluindo vídeos e áudios fabricados de líderes políticos.
- Um banimento nas redes sociais após protestos causou 77 mortes e empurrou a desinformação para a clandestinidade.
- Especialistas alertam para a verificação antes de compartilhar enquanto a polícia se prepara para ataques sofisticados com IA.
À véspera da iminente eleição antecipada do país em 5 de março, um filme falso que apresenta três proeminentes políticos do Nepal revelou como a IA está sendo usada como uma arma.
O vídeo, gerado inteiramente por computador, mostrava o ex-prefeito de Kathmandu, Balendra Shah, o ex-chefe do setor de eletricidade, Kulman Ghising, e o líder do Partido Rastriya Swatantra, Rabi Lamichhane, caminhando juntos.
Muitas pessoas pensaram que uma nova aliança política estava a emergir quando o vídeo se tornou viral na internet. No entanto, como todo o encontro foi gerado por computador, os três políticos nunca se encontraram realmente.
Falsificações de áudio se espalham pelas redes redes
O vídeo falso representa apenas um exemplo de conteúdo fabricado por IA que agora satura os espaços digitais do Nepal à medida que a eleição se aproxima. A eleição realiza-se apenas seis meses após manifestações violentas lideradas por jovens que exigiam o fim da corrupção. Esses protestos derrubaram o então primeiro-ministro K.P. Sharma Oli e deixaram o sistema político da nação em turbulência.
As falsificações digitais que visam indivíduos conhecidos floresceram como resultado dessa crise de confiança. O vice-presidente do Partido Rastriya Swatantra, Swarnim Wagle, registrou uma queixa na Divisão de Cibercrime da Polícia do Nepal. Uma fita de áudio falsa foi criada para dar a impressão de que ele teve uma discussão com o primeiro-ministro da Índia, o que nunca aconteceu.
Estas falsificações de áudio representam riscos únicos no Nepal, como demonstrado pelos esforços de verificação de factos da Poynter. As mensagens de voz viajam rapidamente através de grupos de chat familiares e redes sociais, muitas vezes atingindo recetores que não conseguem confirmar a sua legitimidade. A falta de fiabilidade das ferramentas utilizadas para identificar áudio alterado significa que as pessoas comuns têm meios limitados de distinguir entre falsidades e a verdade.
As tentativas do governo de controlar o assunto frequentemente pioraram as coisas. Devido à sua falha em se registrar junto aos reguladores, Facebook, X e YouTube foram bloqueados pelas autoridades durante os protestos em setembro.
A proibição desencadeou mais violência em vez de acalmar as tensões. A Reuters documentou pelo menos 77 mortes e milhares de ferimentos durante o caos que se seguiu. As autoridades finalmente levantaram as restrições, mas o incidente mostrou por que o bloqueio pesado não funciona. As informações falsas simplesmente se moveram para canais mais difíceis de monitorar.
A Comissão Eleitoral do Nepal tentou abordar estes desafios através de políticas. A sua “Política sobre o uso das redes sociais na Gestão Eleitoral de 2021” estabeleceu diretrizes iniciais. Um novo projeto de código de conduta para a próxima eleição proíbe especificamente informações falsas e contas falsas destinadas a influenciar os eleitores.
No entanto, especialistas alertam que essas regras precisam de atualizações imediatas para a era da IA generativa. Perguntas permanecem sem resposta: O que exatamente constitui a mídia sintética? As campanhas devem divulgar conteúdo criado com assistência de IA? Quem é responsabilizado quando informações falsas se espalham?
Especialistas pedem uma resposta coordenada resposta
Sem regulamentações perfeitas em vigor, especialistas e grupos de monitoramento estão pressionando por soluções mais amplas. A Poynter e organizações de mídia semelhantes recomendam vários passos: organizações de notícias e verificadores de fatos devem investigar cada vídeo viral como um crime, rastreando sua origem e demonstrando como verificaram.
Partidos políticos e candidatos devem prometer não usar deepfakes e rotular claramente qualquer material criado com IA. Empresas de mídia social devem estabelecer equipes de resposta rápida familiarizadas com as línguas e a política do Nepal. Cidadãos comuns devem adotar uma abordagem de “triagem de dez segundos”, parando, verificando e confirmando antes de compartilhar alegações chocantes.
A Divisão de Cibercrime da Polícia do Nepal já está a preparar-se para ataques mais avançados ao lado técnico. SP Ray, um oficial da divisão, disse: “A IA está a crescer e a ser utilizada de mais formas. Em breve, podemos ver crimes e ciberataques que a IA torna mais fáceis.”
Ray também observou que a relativa novidade da tecnologia pode proporcionar alguma margem de manobra. Ele acredita que a tecnologia de IA ainda está em sua infância e está sendo adotada pelo público, portanto, pode demorar um pouco mais para ser usada como uma ferramenta de destruição.
“Estamos bem equipados para combater esses crimes e ameaças, e devemos estar”, disse Ray. Ele acrescentou tranquilização: “A Polícia do Nepal pode investigar qualquer ação. A única coisa que levará tempo para ser investigada são ataques de solo estrangeiro.“
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Hania Humayun
Hania juntou-se ao Cryptopolitan com um longo histórico na análise de finanças, tendências econômicas e mercados preditivos. Ela cobriu temas em tecnologia emergente, IA e fintech. A experiência de Hania como arquiteta licenciada trouxe vigor e precisão à redação de notícias. Ela se formou no National College of Arts em Lahore com graduação em Arquitetura,
