A Ameaça Crescente da Desinformação Impulsionada por IA nas Eleições Globais

À medida que as eleições se desenrolam em todo o mundo, enfrentam uma ameaça em evolução e formidável de atores estrangeiros que utilizam uma arma potente: a inteligência artificial. O domínio da influência eleitoral entrou numa nova fase em 2016, quando campanhas de desinformação russas visaram as eleições presidenciais dos EUA através das redes sociais. Nos anos seguintes, países como a China e o Irão seguiram o exemplo, utilizando as redes sociais para influenciar as eleições nos EUA e em várias partes do mundo. À medida que nos aproximamos de 2023 e 2024, a ameaça permanece, mas com um novo elemento: a IA generativa e os modelos de linguagem grande, que têm o potencial de amplificar o impacto da desinformação.

O poder da propaganda impulsionada por IA

Ferramentas de IA generativa, exemplificadas pelo ChatGPT e pelo mais poderoso GPT-4, podem produzir vastas quantidades de texto rapidamente e em vários tons e perspetivas. Isto torna-as únicas para a propaganda da era da internet. Embora as implicações exatas destas tecnologias nas campanhas de desinformação permaneçam incertas, o mundo está prestes a testemunhar a sua influência.

A época eleitoral está prestes a varrer o mundo democrático, com muitos países a realizar eleições nacionais. Estas eleições têm uma importância imensa para países anteriormente envolvidos em operações de influência nas redes sociais. Por exemplo, os interesses da China estendem-se a Taiwan, Indonésia, Índia e numerosas nações africanas, enquanto a Rússia monitoriza o Reino Unido, a Polónia, a Alemanha e a União Europeia. Os Estados Unidos permanecem um ponto focal para vários atores. À medida que os custos da influência estrangeira diminuem, mais países podem entrar na arena, especialmente com ferramentas como o ChatGPT que tornam a produção de propaganda acessível.

Interferência eleitoral e a mudança do panorama

Numa conferência recente à qual assistiram representantes de todas as agências de cibersegurança dos EUA, as discussões centraram-se nas expectativas relativamente à interferência eleitoral em 2024. Para além dos jogadores habituais como a Rússia, a China e o Irão, emergiu uma nova categoria: “atores domésticos”. Esta mudança resulta diretamente da redução dos custos associados às campanhas de desinformação impulsionadas por IA.

Desafios para além da geração de conteúdo

Embora a IA facilite a criação de conteúdo, a distribuição permanece o desafio crucial para os propagandistas. Contas falsas desempenham um papel crucial na publicação e amplificação de conteúdo até que se torne viral. Empresas como a Meta melhoraram a sua capacidade de identificar e remover tais contas, como demonstrado por uma recente repressão a uma campanha de influência chinesa. No entanto, a desinformação continua a ser uma corrida armamentista. À medida que as plataformas de redes sociais mudam, as saídas de propaganda adaptam-se, muitas vezes deslocando-se para plataformas de mensagens como o Telegram e o WhatsApp, tornando a deteção e a remoção mais desafiadoras. Controlada pela China, a TikTok oferece uma plataforma para vídeos curtos gerados por IA, complicando ainda mais o panorama.

As ferramentas de IA generativa permitem novas técnicas de produção e distribuição, como propaganda de baixo nível em escala. Considere contas pessoais impulsionadas por IA nas redes sociais que se comportam normalmente, publicando sobre a vida diária e interesses, enquanto ocasionalmente injetam conteúdo político. Estas “contas persona” têm influência individual mínima, mas podem ter um impacto significativo quando implantadas em grandes números.

Desinformação em esteroides de IA

As entidades militares por trás da interferência eleitoral, como as da Rússia e da China, estão provavelmente a desenvolver táticas sofisticadas que vão além das estratégias da era de 2016. Antes de escalar, estes países frequentemente testam ciberataques e operações de informação em nações mais pequenas. Reconhecer e catalogar estas táticas cedo é crucial para combater novas campanhas de desinformação.

À medida que as campanhas de desinformação impulsionadas por IA se tornam mais avançadas, os EUA devem proativamente identificar e marcar a propaganda produzida por IA em outros países, como Taiwan, onde gravações de áudio deepfake difamaram candidatos políticos. Sem a deteção e compreensão precoces, estas campanhas podem passar despercebidas até atingirem o território nacional.

A necessidade de investigação e defesa

Embora algumas eleições recentes tenham decorrido sem problemas significativos de desinformação impulsionada por IA, a consciencialização e a investigação precoces são essenciais para a preparação. Os investigadores devem estudar as técnicas empregues em campanhas estrangeiras para desenvolver estratégias de defesa eficazes. A comunidade de cibersegurança reconhece que partilhar métodos de ataque e a sua eficácia é crucial para construir sistemas de defesa robustos.

A ameaça da desinformação impulsionada por IA nas eleições está a crescer, exigindo uma abordagem proativa e informada. À medida que entramos nesta nova era de interferência eleitoral, os países devem manter-se vigilantes, fomentar a colaboração internacional e desenvolver mecanismos de defesa capazes de combater a propaganda impulsionada por IA. Quanto mais cedo compreendermos estas táticas em evolução, melhor poderemos proteger a integridade dos nossos processos democráticos.