A inteligência artificial pode amplificar a desinformação, afirma o secretário de Estado do Arizona

Segundo o secretário de Estado do Arizona, Adrian Fontes, a inteligência artificial (IA) pode amplificar a desinformação antes das próximas eleições nos EUA. Fontes expressou seus receios no domingo, no programa Meet the Press, da NBC.

A declaração de Fontes veio na sequência da publicação do presidentedent no X (antigo Twitter) de que “a IA e as empresas que trabalham com essa tecnologia vão transformar o mundo, masprimeiro, elas precisam conquistar nossa confiança” O presidentedent estar comprometido em fazer tudo ao seu alcance para promover a inovação segura e responsável. Ele incentivou as empresas a se unirem a ele nesse compromisso.

A desinformação causada pela IA é um amplificador

Fontes relembrou seus treinamentos no Corpo de Fuzileiros Navais. Ele disse que, nos campos de treinamento básico e em outros treinamentos militares, eles tinham que avaliar as armas inimigas. Ele disse que eles tinham que treinar o máximo possível contra as armas inimigas.

Leia também: Microsoft alerta para campanhas de desinformação impulsionadas por inteligência artificial nas próximas eleições.

O Secretário comparou a IA a armas e disse que a IA não é uma arma; em vez disso, é um amplificador e um instrumento de disseminação de informações falsas e desinformação. 

“O que eu queria era garantir que nossos funcionários eleitorais estivessem familiarizados com isso, que tivéssemos processos para lidar com a situação e resolvê-la em cada um de nossos condados, porque nossas eleições também são realizadas em nível de condado.”

Adrian Fontes

“Também realizamos um exercício simulado com vários funcionários eleitorais e a imprensa para que nossos parceiros de mídia pudessem saber como reagir e reconhecer a situação”, acrescentou.

A inteligência artificial não foi o único fator; o Secretário, ao mencionar o terrorismo doméstico, afirmou que “terrorismo é deficomo uma ameaça ou violência com o objetivo de alcançar um resultado político. É isso que estamos fazendo.”

A ligação “falsa” de Joe Biden confirma a desinformação gerada por IA

As potenciais ameaças da IA ​​às eleições não são novidade. No início de janeiro deste ano, uma chamada telefônica falsa com a voz dodent dos EUA, Joe Biden, foi um tema bastante discutido em programas de TV e artigos de notícias. A chamada falsa foi cuidadosamente elaborada, começando com a frase "Que monte de bobagens", um termo que Biden já havia usado anteriormente. 

Após esse toque de personalidade, a ligação prosseguiu, dizendo:

“Votar nesta terça-feira só beneficia os republicanos em sua busca para reeleger Donald Trump. Seu voto faz a diferença em novembro, não nesta terça-feira.”

Foi uma clara tentativa de dissuadir os eleitores de votarem naquele dia específico. A chamada automática voltou a circular dois dias atrás, quando o consultor político Steven Kramer, responsável pela ligação, foi indiciado por um total de US$ 6 milhões e 24 acusações criminais.

A multa aplicada a Kramer foi a primeira por delitos relacionados à inteligência artificial generativa, afirmou a Comissão Federal de Comunicações. A comissão também propôs uma multa de US$ 2 milhões para a Lingo Telecom, acusada de transmitir as chamadas automáticas.

Embora a Lingo Telecom tenha afirmado não estar envolvida na produção dessas ligações, as medidas tomadas estavam de acordo com os padrões da indústria e as regulamentações federais. No entanto, o aspecto preocupante é que as ligações pareciam ter sido feitas do número pessoal de Kathy Sullivan, ex-presidente do Partido Democrata do estado. 

Em um e-mail enviado na quinta-feira, Sullivan escreveu que "há um preço alto a se pagar por tentar fraudar uma eleição", segundo a Associated Press.

Campanhas de desinformação são mais acessíveis

A inteligência artificial tornou os golpes mais baratos e acessíveis para quem quer praticá-los. Kramer, dono de uma empresa especializada em campanhas de mobilização de eleitores, disse que pagou US$ 500 para enviar as ligações aos eleitores, chamando a atenção para o "problema da IA". Ele já havia declarado à Associated Press que pagou US$ 150 a um mágico para criar a gravação.

Leia também: Warren Buffett alerta para o crescimento de um setor fraudulento na área de inteligência artificial.

A Wired noticiou no ano passado que criar uma campanha de desinformação com IA custa apenas US$ 400. A publicação relatou o caso de um desenvolvedor que usou ferramentas comuns de IA para gerar tweets e artigos anti-Rússia, mas o projeto tinha como objetivo destacar como isso poderia ser feito de forma barata e fácil.

Segundo o veículo de notícias, a pessoa que usa o pseudônimo Nea Paw criou a campanha para conscientizar as pessoas sobre os perigos da inteligência artificial e a desinformação. Paw afirmou em um e-mail:

"Não acredito que exista uma solução milagrosa para isso, da mesma forma que não existe uma solução milagrosa para ataques de phishing, spam ou engenharia social."

Pesquisadores da área de desinformação afirmam que a IA poderia ser usada para criar campanhas altamente personalizadas para disseminar a desinformação e para gerenciar contas em redes sociais. Vale ressaltar que o Facebook e o Instagram bloquearam recentemente milhares de contas que estavam de alguma forma conectadas às redes frequentemente associadas ao mecanismo de comunicação do Partido Comunista Chinês.

Pesquisadores afirmam que contas falsas agora utilizam métodos mais sofisticados para conduzir suas campanhas de desinformação, empregando também estratégias orgânicas para ampliar seu alcance e aparentar autenticidade. Não podemos nos esquecer das palavras do lendário investidor Warren Buffett, que afirmou que golpes com inteligência artificial poderiam ser o "setor de crescimento mais rápido de todos os tempos" 

Golpes e desinformação eleitoral estão relacionados, pois ambos são usados ​​para enganar as pessoas. Como diz Buffett: "Tem um enorme potencial para o bem e um enorme potencial para o mal, e eu simplesmente não sei como isso vai se desenrolar."

Reportagem Cryptopolitan por Aamir Sheikh