Crescentes Preocupações Sobre o Impacto da IA nas Eleições em 2024

O mundo está se preparando para um turbilhão de eleições em vários países, com pelo menos 65 agendadas em 54 nações. Espera-se que essas eleições envolvam mais de dois bilhões de eleitores. 

Em meio a este surto democrático, as preocupações sobre o papel da inteligência artificial (IA) em moldar os resultados eleitorais estão aumentando. Embora o impacto potencial da desinformação gerada por IA seja uma causa de preocupação, vários fatores atualmente mitigam sua influência.

Desinformação gerada por IA: uma preocupação crescente

Nos últimos anos, incidentes destacaram os riscos potenciais da desinformação gerada por IA. Por exemplo, um vídeo deepfake do presidente ucraniano Volodymyr Zelensky alegadamente declarando a rendição de seu país, uma foto gerada por IA de uma explosão no Pentágono e clipes de áudio falsos que supostamente demonstram fraude eleitoral circularam online. 

Esses casos destacam a preocupação de que a IA possa ser aproveitada para manipular a percepção pública durante os ciclos eleitorais.

Um aspecto tranquilizador é o impacto de curta duração da maioria da desinformação gerada por IA. Essas narrativas falsas foram rapidamente desmentidas nos casos mencionados e não ganharam tração nas fontes de notícias autoritativas. Tal desinformação deve se integrar a narrativas mais amplas e convincentes para ser verdadeiramente perigosa.

A necessidade de operadores humanos qualificados

Embora a IA possa gerar conteúdo convincente, ela carece da autonomia para criar, espalhar ou sustentar histórias sem operadores humanos qualificados. Esses indivíduos possuem conhecimento em política, notícias e distribuição; sua expertise é essencial para criar e disseminar narrativas persuasivas.

Assim como muitas campanhas políticas humanas falham, as habilitadas por IA são suscetíveis a deficiências sem a orientação de indivíduos qualificados. No entanto, devemos permanecer vigilantes à medida que as capacidades da IA continuam a evoluir.

A paisagem midiática contemporânea é fragmentada, com usuários se dispersando por várias redes sociais e plataformas. O surgimento de comunidades de nicho em plataformas como Threads, BlueSky e Mastodon, juntamente com a diversificação dos usuários do Facebook para Instagram e TikTok, restringe ainda mais o alcance da desinformação. 

Essa fragmentação apresenta desafios na detecção e explicação de tais fenômenos, mas confina seu impacto a pequenos cantos da internet.

Proteção natural contra a desinformação por IA

Esses três fatores — a natureza efêmera da maioria das falsificações geradas por IA, a necessidade de alinhamento com narrativas maiores e a fragmentação da paisagem de informações — fornecem algumas proteções “naturais” contra o dano potencial da IA nas eleições. 

No entanto, confiar apenas nessas características não é suficiente. Uma abordagem proativa para salvaguardar a democracia e as eleições é imperativa.

A personalização tecnológica excessiva em campanhas eleitorais, seja por IA, mídia social ou anúncios pagos, deve ser contida. Embora os eleitores busquem entender o que os políticos podem oferecer individualmente, eles também querem transparência sobre as políticas oferecidas a todos. 

As campanhas políticas devem abster-se de implantar milhares de agentes de IA para personalizar mensagens para eleitores individuais, pois isso pode minar o processo democrático.

Garantir que as pessoas são quem dizem ser é crucial no domínio digital. Embora o anonimato desempenhe um papel na votação, a transparência sobre identidades online é essencial em relação a questões eleitorais. 

A confiança é primordial, e os cidadãos devem ter meios para verificar a autenticidade das vozes online. O conteúdo gerado por IA não deve ser usado para enganar ou ocultar identidades.

O papel das plataformas de redes sociais

Como principais condutores de disseminação de informações, as plataformas de mídia social devem contribuir ativamente para combater a desinformação gerada por IA. Embora nem todas as plataformas se tornem jogadores significativos em IA generativa, elas ainda desempenham um papel vital na moldagem do discurso público. Essas plataformas devem ajudar os usuários a identificar conteúdo gerado por IA, monitorar e prevenir a manipulação em larga escala de contas e comentários, conter o assédio coordenado por IA e facilitar a pesquisa e auditoria de seus sistemas.

Para enfrentar a ameaça representada pela desinformação gerada por IA, a sociedade deve tomar uma posição coletiva a favor da democracia. A desinformação muitas vezes surge de figuras influentes, contribuindo para a polarização e fragmentação. 

À medida que os líderes estabelecem exemplos, a sociedade segue o exemplo. Portanto, é crucial estabelecer padrões mais elevados e denunciar inequivocamente políticos e campanhas que exploram a IA para enganar os cidadãos.