Hillary Clinton fez um alerta severo durante uma palestra crucial na Universidade de Columbia: 2024 será o "ponto zero" da manipulação eleitoral por IA devido à combinação de níveis historicamente altos de atividade eleitoral mundial com a disseminação de tecnologia de IA generativa de ponta, que facilita a desinformação por IA.
A visão de Clinton destaca a necessidade de enfrentar a ameaça iminente representada pela desinformação impulsionada por IA, num contexto de crescentes preocupações com a disseminação de informações falsas e o declínio da confiança pública nas instituições democráticas.
Mais de quatro bilhões de pessoas no planeta estão aptas a votar de alguma forma neste ano eleitoral, o que o torna histórico. Até 2024, a inteligência artificial generativa provavelmente terá um impacto permanente na política, pelo menos. Ela disse:
“Este é o ano das maiores eleições em todo o mundo desde o surgimento de tecnologias de IA como o ChatGPT.”
Fotos deepfake, áudios manipulados e outros conteúdos gerados por software provavelmente serão utilizados para influenciar ou alienar eleitores, corroer a confiança pública nos sistemas eleitorais e fomentar a discórdia. Isso não significa que as eleições serão fraudadas ou que tudo deva ser confiável. Significa, sim, que todos precisam estar cientes dos potenciais usos e abusos da inteligência artificial.
A ascensão da desinformação por IA e sua ameaça à democracia.
A desinformação gerada pela Inteligência Artificial (IA) representa uma grande ameaça à política eleitoral e uma sombra sobre os processos democráticos globais. Uma nova era de engano foi inaugurada pelo desenvolvimento da tecnologia de IA generativa, que permite a produção perfeita de conteúdo audiovisual que são réplicas quase exatas de coisas reais.
O campo da manipulação política expandiu-se significativamente desde a derrota eleitoral de Clinton em 2016, como ela bem observa, e a disseminação de imagens e áudios deepfake exacerbou o poder das narrativas enganosas. Ao relembrar suas próprias experiências como alvo de operações coordenadas de desinformação, Clinton enfatiza a importância de enfrentar as enormes dificuldades que a fabricação de informações impulsionada por inteligência artificial apresenta.
Michael Chertoff, ex-secretário de Segurança Interna dos EUA, enfatiza as maneiras ardilosas pelas quais a desinformação facilitada por inteligência artificial pode influenciar a opinião pública e minar a confiança nas instituições democráticas, ecoando as preocupações de Clinton. Chertoff alerta para a perigosa possibilidade de que operações de desinformação direcionadas possam explorar as lacunas no ecossistema da informação e minar os fundamentos do governo democrático em uma era de distribuição de conteúdo hiperpersonalizado. Com isso em mente, as eleições de 2024 se tornam um teste para a inteligência artificial abordar a questão existencial da manipulação eleitoral.
Salvaguardando a democracia na era digital
Proteger os processos democráticos da manipulação e da distorção é crucial, visto que acadêmicos e formuladores de políticas públicas lidam com a ameaça da desinformação gerada por inteligência artificial (IA) que paira sobre o cenário eleitoral. A disseminação de conteúdo gerado por IA levanta sérias preocupações sobre a validade do discurso político e questiona a eficácia das medidas convencionais de combate à desinformação.
Proteçõestrone instituições democráticas resilientes são mais importantes do que nunca em um momento em que a informação é usada como arma. Além disso, as ameaças eleitorais deste ano são “ainda mais perigosas”, segundo Chertoff. Eleições democráticas anteriores em todo o mundo envolveram esforços para semear a discórdia ou influenciar votos a favor ou contra um candidato específico, como a interferência da Rússia nas eleições de 2016 e o ataque cibernético a Macron um ano depois, na França.
Será que aqueles que aprenderam sobre deepfakes presumem que tudo no mundo é uma deepfake? Como resultado, até mesmo provas concretas de comportamento inadequado são descartadas. E isso, essencialmente, dá aos funcionários corruptos do governo e aos autocratas a liberdade de fazer o que bem entenderem. Em um contexto de desinformação e ceticismo, a sobrevivência da democracia depende da nossa capacidade, como povo, de separar fato de ficção e proteger a sacralidade da integridade do voto.
