A OpenAI alerta que a Inteligência Artificial está sendo usada para manipular eleições

O relatório da OpenAI afirmou que seus modelos estão sendo usados ​​para influenciar eleições. Afirmou também que desmantelou mais de 20 operações que se baseavam em seu modelo de IA para realizar tais atividades maliciosas. 

O relatório, intitulado "Uma atualização sobre como interromper usos enganosos da IA", também enfatizou a necessidade de vigilância ao interagir com conteúdo político.

O documento revelou uma tendência no uso dos modelos da OpenAI como uma importante ferramenta para interferir em eleições e disseminar desinformação política. Agentes mal-intencionados, muitas vezes patrocinados por Estados, utilizam esses modelos de IA para diversas atividades, incluindo a geração de conteúdo para perfis falsos em redes sociais e a engenharia reversa de malware.

A crescente influência da OpenAI nas eleições e na política com IA

No final de agosto, a OpenAI interrompeu uma campanha iraniana que produzia conteúdo para redes sociais com o objetivo de influenciar opiniões nas eleições americanas, na política venezuelana, no conflito em Gaza e em Israel. A organização relatou que algumas contas, posteriormente banidas, também publicavam conteúdo sobre as eleições em Ruanda. 

A investigação também descobriu que uma empresa israelense estava envolvida em uma tentativa de manipular os resultados das eleições na Índia. 

No entanto, a OpenAI observou que essas atividades não se tornaram virais nem conquistaram um público substancial. As postagens em redes sociais relacionadas a essas campanhas tiveram pouca trac. Isso pode indicar a dificuldade em influenciar a opinião pública por meio de campanhas de desinformação impulsionadas por inteligência artificial. 

Historicamente, as campanhas políticas costumam ser alimentadas por desinformação disseminada pelos candidatos. No entanto, o advento da Inteligência Artificial representa uma ameaça diferente à integridade dos sistemas políticos. O Fórum Econômico Mundial (FEM) afirmou que 2024 é um ano histórico para eleições, com 50 países realizando pleitos.  

As mídias de aprendizagem de língua inglesa (LLMs) em uso cotidiano já possuem a capacidade de criar e disseminar desinformação de forma mais rápida e convincente.

Regulamentação e esforços colaborativos

Em resposta a essa potencial ameaça, a OpenAI afirmou estar trabalhando com as partes interessadas relevantes, compartilhando informações sobre ameaças. A empresa espera que essa abordagem colaborativa seja suficiente para combater os canais de desinformação e promover o uso ético da IA, especialmente em contextos políticos. 

A OpenAI relata: "Apesar da falta de engajamento significativo do público resultante dessa operação, levamos a sério qualquer esforço para usar nossos serviços em operações de influência estrangeira." 

A empresa de IA também enfatizou que é preciso construir defesas de segurança robustas para impedir ataques cibernéticos patrocinados por estados, que usam IA para criar campanhas online enganosas e disruptivas. 

O Fórum Econômico Mundial também destacou a necessidade de implementar regulamentações para a IA, afirmando: "Acordos internacionais sobre padrões interoperáveis ​​e requisitos regulatórios básicos desempenharão um papel importante para viabilizar a inovação e aprimorar a segurança da IA." 

O desenvolvimento de estruturas eficazes exige parcerias estratégicas entre empresas de tecnologia como a OpenAI, o setor público e as partes interessadas privadas, o que ajudará a implementar sistemas de IA éticos.