Em uma revelação que lança luz sobre o lado obscuro da interferência digital em eleições, o Instituto Australiano de Política Estratégica (ASPI) descobriu uma campanha secreta orquestrada pelo Partido Comunista Chinês (PCC) para manipular as recentes eleições em Taiwan por meio de desinformação gerada por inteligência artificial. As táticas insidiosas empregadas incluíram o uso de avatares gerados por IA, documentos vazados e testes de paternidade falsos, aumentando as preocupações sobre o potencial impacto global de tais campanhas de desinformação.
Campanha secreta chinesa revelada
A investigação do ASPI expôs as atividades nefastas da Spamouflage, uma rede ligada ao PCC, que utilizava avatares gerados por IA em plataformas como X/Twitter, Facebook, Medium e blogs taiwaneses. Essas contas tinham como alvo candidatos do Partido Democrático Progressista (DPP), acusando-os de corrupção e peculato para influenciar a opinião pública contra eles. A ligação da rede com as forças policiais e agências governamentais chinesas complicou ainda mais a situação.
Um segundo agente malicioso,dentno relatório do terceiro trimestre de 2023 da Meta, envolveu-se em sofisticadas operações de ciberinfluência. Esse agente disseminou supostos documentos vazados do governo taiwanês e um falso teste de DNA de paternidade envolvendo o candidatodentdo DPP, Lai Ching-te. A complexidade dessas campanhas, incluindo o uso de conteúdo gerado por IA, representou um desenvolvimento preocupante nas operações de influência da China.
O relatório do ASPI revela as consequências de longo alcance das campanhas de desinformação da China, impulsionadas por inteligência artificial, que ultrapassam as fronteiras de Taiwan. Notavelmente, a rede Spamouflage, além de exercer influência em Taiwan, foidentdisseminando conteúdo difamatório contra o Partido Bharatiya Janata (BJP) e o governo indiano, com foco específico na região de Manipur, na Índia. Essa revelação expõe um modelo plausível para a potencial interferência do Partido Comunista Chinês (PCC) nas próximas eleições em escala global.
Unidade democrática diante da desinformação gerada por IA
O relatório enfatiza a responsabilidade de plataformas como o X/Twitter em garantir a segurança online durante as eleições, citando falhas na suspensão de contas associadas a redes coordenadas de comportamento inautêntico com base na China. Também apela para que empresas ocidentais de IA generativa, como a Synthesia e a D-ID, exerçam a devida diligência e transparência na prevenção do uso indevido de seus produtos, instando a OpenAI a seguir o exemplo das plataformas de mídia social na divulgação de relatórios de ameaças sobre o uso indevido.
As observações finais do relatório adotam uma postura cautelosa, soando um alarme em relação aos investimentos estrangeiros na crescente indústria de IA da China. O relatório defende uma reavaliação, por parte de governos e empresas ocidentais, de seu envolvimento nesse setor. O potencial inerente de dupla utilização dos produtos de IA, especialmente no âmbito de operações de guerra política, exige um alerta urgente para uma maior fiscalização e, potencialmente, a imposição de responsabilidade legal às empresas de IA que possam, inadvertidamente, facilitar a interferência eleitoral.
À medida que as democracias se preparam para as próximas eleições, o relatório do ASPI incentiva o fortalecimento dos laços com Taiwan e a adoção de uma frente unida contra a desinformação . O compartilhamento de informações sobre agentes de ameaça do PCC, a investigação de contas de mídias sociais que visam múltiplas regiões e a colaboração em esforços de combate à desinformação podem fortalecer as defesas democráticas.
Num mundo cada vez mais dependente de plataformas digitais, a revelação das sofisticadas campanhas de desinformação geradas por inteligência artificial na China serve como um forte lembrete dos desafios que as democracias enfrentam para preservar a integridade de seus processos eleitorais. A responsabilidade não recai apenas sobre os governos, mas também sobre as empresas de tecnologia e a comunidade global em geral, para combater coletivamente essa ameaça em constante evolução.
