A IA Pode Ser um Amplificador de Desinformação, Diz Secretário de Estado do Arizona

De acordo com o Secretário de Estado do Arizona, Adrian Fontes, a inteligência artificial (IA) poderia ser um “amplificador” de desinformação antes das próximas eleições nos EUA. Fontes expressou seus medos no domingo no Meet the Press da NBC.

A declaração de Fontes veio na sequência da publicação do presidente Biden no X (antigo Twitter) de que “a IA e as empresas que trabalham com a tecnologia vão transformar o mundo, mmas, primeiro, elas devem ganhar nossa confiança.” O presidente disse que está comprometido a fazer tudo ao seu alcance para promover inovação segura e responsável. Ele exortou as empresas a se juntarem a ele nesse compromisso.

A Desinformação por IA é um Amplificador

Fontes lembrou de suas sessões de treinamento no Corpo de Fuzileiros Navais. Ele disse que, nos campos de treinamento básico e outros treinamentos militares, eles tinham que avaliar as armas de seus inimigos. Ele disse que eles tinham que treinar tanto quanto pudessem contra as armas do inimigo.

Também leia: Microsoft Alerta para Campanhas de Desinformação Impulsionadas por IA nas Próximas Eleições

O Secretário comparou a IA a armas e disse que a IA não é uma arma; em vez disso, é um amplificador e um amplificador de má e desinformação. 

“O que eu queria fazer era garantir que nossos funcionários eleitorais estivessem familiarizados com isso, que tivéssemos processos para lidar com isso e abordá-lo em cada um de nossos condados, porque nossas eleições são realizadas no nível do condado, também.”

Adrian Fontes

“Também realizamos um exercício de mesa redonda entre vários funcionários eleitorais para a mídia, para que nossos parceiros de mídia pudessem saber como reagir a isso e reconhecê-lo”, acrescentou.

A IA não foi a única parte; o Secretário, ao mencionar o terrorismo doméstico, disse que “o terrorismo é definido como uma ameaça ou violência para um resultado político. É isso que isso é.”

A Chamada “Falsa” de Joe Biden Reforça a Desinformação por IA

As possíveis ameaças da IA às eleições não são novas. No início de janeiro deste ano, uma chamada robótica falsa na voz do presidente dos EUA, Joe Biden, foi um tópico quente em programas de TV e artigos de notícias. A chamada falsa foi cuidadosamente adaptada, começando com a frase “Que absurdo”, um termo que Biden havia usado anteriormente. 

Após esse toque de personalidade, a chamada continuou, dizendo,

“Votar nesta terça-feira apenas permite que os republicanos em sua busca para eleger Donald Trump novamente. Seu voto faz diferença em novembro, não nesta terça-feira.”

Era uma tentativa clara de desencorajar os eleitores a comparecerem às urnas naquele dia específico. A chamada robótica voltou a circular dois dias atrás, quando o consultor político Steven Kramer, que estava por trás da chamada, foi multado em US$ 6 milhões e enfrentou 24 acusações criminais no total.

A multa aplicada a Kramer foi a primeira por infrações relacionadas à IA generativa, disse a Federal Communication Commission. A comissão também propôs uma multa de US$ 2 milhões para a Lingo Telecom, que foi acusada de transmitir as chamadas robóticas.

Enquanto a Lingo Telecom disse que não estava envolvida na produção dessas chamadas, as ações que ela tomou estavam de acordo com os padrões da indústria e regulamentações federais. No entanto, a parte preocupante é que as chamadas pareciam vir do número pessoal de Kathy Sullivan, ex-presidente do Partido Democrata do estado. 

Sullivan escreveu em um e-mail na quinta-feira que “há um preço elevado para tentar manipular uma eleição,” de acordo com a Associated Press.

Campanhas de Desinformação São Mais Baratas

A IA tornou o golpe mais barato e acessível para aqueles que querem praticá-lo. Kramer, que possui uma empresa especializada em projetos de incentivo ao voto, disse que pagou US$ 500 para enviar as chamadas aos eleitores para chamar sua atenção para o “problema da IA”. Ele havia dito anteriormente à AP que pagou US$ 150 a um mágico para criar a gravação.

Também leia: Warren Buffett Alerta para Golpes de IA se Tornarem uma Indústria em Crescimento

A Wired reportou no ano passado que construir uma campanha de desinformação por IA custa apenas US$ 400. Ela relatou um desenvolvedor que usou ferramentas comuns de IA para gerar tweets e artigos anti-Rússia, mas o projeto visava destacar o quão barata e facilmente isso poderia ser feito.

De acordo com o veículo de notícias, a pessoa que usa o nome de Nea Paw projetou a campanha para educar as pessoas sobre os perigos da IA e a desinformação. Paw disse em um e-mail,

“Não acho que haja uma bala de prata para isso, da mesma forma que não há bala de prata para ataques de phishing, spam ou engenharia social.”

Pesquisadores de desinformação dizem que a IA poderia ser usada para criar campanhas altamente personalizadas para impulsionar a desinformação e para gerenciar contas de redes sociais. O ponto a notar é que o Facebook e o Instagram bloquearam recentemente milhares de contas que estavam de alguma forma conectadas às redes frequentemente associadas ao mecanismo de comunicação do Partido Comunista da China.

Pesquisadores dizem que contas falsas agora estão usando métodos mais sofisticados para executar suas campanhas de desinformação, pois agora usam métodos orgânicos para aumentar seu alcance e parecer autênticas. Para não esquecer as palavras do lendário investidor Warren Buffett, que disse que os golpes de IA poderiam ser a “indústria de mais rápido crescimento de todos os tempos.” 

Golpes e desinformação eleitoral têm conexões, pois ambos são usados para enganar as pessoas. Como Buffett diz, “Ela tem um enorme potencial para o bem e um enorme potencial para o mal, e eu simplesmente não sei como isso vai se desenrolar.”

Reportagem da Cryptopolitan por Aamir Sheikh