As eleições globais enfrentam ameaças crescentes da inteligência artificial e dos ciberataques em 2024

A próxima onda de eleições em todo o mundo é acompanhada de perto por preocupações sobre a inteligência artificial e os ataques cibernéticos que afetam o processo democrático. De acordo com um relatório da Mandiant, encomendado pelo Google Cloud, foram reveladas diversas ameaças geralmente perpetradas por agentes estatais, cibercriminosos e hackers políticos contra o público em geral. Isso pode comprometer os próximos processos eleitorais em muitos países ao redor do globo.

cenário de ameaças intensificadas

O relatório da Mandiant destaca o crescente nível de ameaças relacionadas às eleições, ressaltando a necessidade urgente de políticas de segurança abrangentes. Este ano, mais de 2 bilhões de eleitores de 50 países estarão nas urnas, tornando os riscos ainda mais reais e, portanto, exigindo vigilância constante para garantir que as ameaças cibernéticas emergentes não sejam bem-sucedidas.

As operações de ciberataques patrocinadas pelo Estado chinês agora adotaram a inteligência artificial (IA) para impulsionar esforços generalizados de desinformação dos EUA em 2020dent.

Em Taiwan, a adoção de noticiários gerados por IA com apresentadores falsos tornou-se uma forma perfeita de disseminar notícias falsas. Esses segmentos de notícias simulados, criados pelo CapCut, plataforma da ByteDance, estão entre os principais instrumentos de disseminação de desinformação com o objetivo de perturbar o processo democrático. Além disso, memes e vídeos gerados por IA com a intenção de difamar figuras políticas conhecidas têm sido amplamente distribuídos, resultando na disseminação generalizada de conteúdo enganoso.

Ainda assim, os Estados Unidos têm sofrido tentativas implacáveis ​​de agentes de ameaças patrocinados pelo Estado chinês para manipular a mentalidade do país por meio de campanhas de desinformação. Os esforços de cibersegurança eleitoral vão muito além das típicas tentativas de invasão; essas campanhas de desinformação visam minar a vontade popular e o processo eleitoral. Os adversários utilizam todas as abordagens possíveis para manipular os resultados, desde o ataque a urnas eletrônicas até a infiltração em campanhas políticas e a manipulação de mídias sociais.

Imperativo de segurança abrangente

Garantir a segurança das eleições exigirá uma abordagem holística que abranja vetores de ameaça, desde ataques DDoS até manipulação por deepfake. A Mandiant prioriza a antecipação dessas ameaças para proteger as infraestruturas digitais e minimizar as manipulações eleitorais.

Embora as preocupações mais justificáveis ​​sobre a segurança cibernética das eleições digam respeito às interrupções diretas da votação e da apuração, com muito mais frequência, os adversários cibernéticos tentam influenciar a percepção pública por meio da guerra da informação: espalhando notícias falsas, orquestrando ataques DDoS e manipulando as redes sociais com toda a engenhosidade, de forma secreta, para moldar os resultados eleitorais.

Consequentemente, espera-se que as organizações eleitorais adotem medidas de defesa proativas para lidar com o cenário de ameaças em constante mudança. Isso deve ser feito com uma compreensão das ameaças específicas direcionadas a cada país, de modo a aprimorar a antecipação e as contramedidas contra possíveis ataques, tornando as instituições democráticas mais resilientes.

Iniciativa do governo dos EUA: Conselho de segurança e proteção da IA

Vale ressaltar que o governo dos EUA criou um Conselho de Segurança e Proteção da Inteligência Artificial com importantes líderes do setor de tecnologia, o que representa um grande avanço. Entre os líderes de tecnologia mencionados no conselho estão Sam Altman, da OpenAI, Satya Nadella, da Microsoft, e Sundar Pichai, CEO da Alphabet. 

O conselho irá, entre outras coisas, aconselhar o Departamento de Segurança Interna sobre a melhor forma de integrar a IA na infraestrutura crítica do país de maneira segura. Entre os outros membros do conselho estão Jensen Huang, CEO da Nvidia; Kathy Warden, CEO da Northrop Grumman; e Ed Bastian, CEO da Delta Airlines.

O Conselho de Segurança e Proteção da IA ​​trabalhará com o Departamento de Segurança Interna dos EUA para eliminar quaisquer sugestões de incorporação de IA em infraestruturas críticas que possam ser perigosas. O Conselho fornecerá sugestões a empresas de serviços públicos, provedores de transporte e fabricantes sobre como implementar práticas de segurança cibernética que sejam consistentes com a forma de IA mais prevalente atualmente.

O principal objetivo do Conselho de Segurança e Proteção de IA é integrar com segurança as tecnologias de IA em sistemas de infraestrutura crítica. Nesse âmbito, o conselho espera estabelecer diretrizes e pontos de trabalho para a implementação, com foco em segurança, proteção e confiabilidade dentro da infraestrutura crítica. Pretende-se também reunir as melhores ideias de líderes executivos experientes do setor e desenvolver uma estrutura que permita a implantação responsável de IA em diversos campos.

O envolvimento de partes interessadas do setor privado nessa organização também desempenha um papel importante, demonstrando um esforço conjunto na aplicação do conhecimento e das perspectivas da indústria no estabelecimento de políticas e regulamentações de IA. Nesse caso, o conselho está comprometido em lidar com problemas complexos relacionados à IA, garantindo segurança e proteção, e, consequentemente, gerando confiança no público.

Conteúdo enganoso gerado por inteligência artificial: riscos e contras

Os deepfakes gerados por IA estão se tornando cada vez mais sofisticados, dificultando a distinção entre conteúdo real e manipulado. Na forma de fotos, vídeos e arquivos de áudio, o conteúdo manipulado pode representar uma ameaça à reputação de um político ou partido político. Embora seu potencial possa não ser totalmente explorado em uma eleição com grande margem de vitória, o poder da IA ​​pode alterar os resultados finais, distorcendo a diferença em alguns votos cruciais em uma disputa acirrada.

Há esforços globais para mitigar o impacto que a manipulação por IA pode ter nos processos eleitorais. Diferentes governos, as maiores empresas de tecnologia do mundo e órgãos legislativos estão trilhando esse caminho por meio do monitoramento, da regulamentação e, sobretudo, da compreensão do impacto da IA. Por exemplo, a maioria dos países estabeleceu equipes eleitorais internas e implementou medidas para prevenir os riscos associados à IA generativa.

As medidas preventivas a serem adotadas para evitar a interferência eleitoral por meio de inteligência artificial incluem a conscientização da população sobre os riscos de conteúdo enganoso gerado por IA. Campanhas de conscientização visam sensibilizar os consumidores para a autenticidade do conteúdo online e a possibilidade de ele ser fabricado por meio de IA. Isso aumentaria a desconfiança em relação às informações online, diminuindo ainda mais a confiança nas plataformas digitais e agravando o problema da desinformação e da informação errônea.