Inteligência Artificial está sendo usada para manipular eleições, OpenAI levanta alerta
- A OpenAI afirmou em seu relatório mais recente que seu chatbot se tornou um meio principal para a criação de desinformação antes das eleições nacionais.
- A OpenAI enfatiza a necessidade de medidas de segurança sólidas e estruturas regulatórias robustas para desacelerar campanhas de manipulação eleitoral patrocinadas por Estados com o uso de IA.
- Até o momento, o conteúdo gerado por IA ainda não é convincente o suficiente para influenciar opiniões políticas.
O relatório da OpenAI afirmou que seus modelos estão sendo usados para influenciar eleições. Também afirmou que havia derrubado mais de 20 operações que dependiam de seu modelo de IA para realizar tais atividades maliciosas.
O relatório da OpenAI relatório, “Uma atualização sobre a interrupção de usos enganosos de IA”, também enfatizou a necessidade de vigilância ao se envolver com conteúdo político.
O documento mostrou uma tendência com os modelos da OpenAI se tornando uma ferramenta importante para perturbar eleições e espalhar desinformação política. Atores mal-intencionados, muitas vezes patrocinados por estados, usam esses modelos de IA para várias atividades, incluindo a geração de conteúdo para personas falsas nas redes sociais e engenharia reversa de malware.
A crescente influência da OpenAI em eleições e política de IA
No final de agosto, a OpenAI interrompeu uma campanha iraniana que estava produzindo conteúdo de redes sociais para influenciar opiniões nas eleições dos EUA, na política venezuelana, no conflito de Gaza e em Israel. Ela relatou que algumas contas, que foram posteriormente banidas, também estavam postando sobre as eleições ruandesas.
Ela também descobriu que uma empresa israelita estava envolvida em tentar manipular os resultados das pesquisas na Índia.
No entanto, a OpenAI observou que essas atividades não se tornaram virais nem cultivaram audiências substanciais. Postagens em redes sociais relacionadas a essas campanhas ganharam tração mínima. Isso pode indicar a dificuldade de influenciar a opinião pública por meio de campanhas de desinformação impulsionadas por IA.
Historicamente, as campanhas políticas são geralmente alimentadas por desinformação dos lados em disputa. No entanto, o advento da IA apresenta uma ameaça diferente à integridade dos sistemas políticos. O Fórum Econômico Mundial (WEF) afirmou que 2024 é um ano histórico para eleições, com 50 países tendo eleições.
LLMs em uso cotidiano já têm a capacidade de criar e espalhar desinformação mais rapidamente e de forma mais convincente.
Regulação e esforços colaborativos
Em resposta a essa ameaça potencial, a OpenAI disse que está trabalhando com as partes interessadas relevantes, compartilhando inteligência sobre ameaças. Ela espera que essa abordagem colaborativa seja suficiente para fiscalizar os canais de desinformação e promover o uso ético da IA, especialmente em contextos políticos.
A OpenAI relata: “Apesar da falta de engajamento significativo do público resultante desta operação, levamos a sério quaisquer esforços para usar nossos serviços em operações de influência estrangeira.”
A empresa de IA também enfatizou que defesas de segurança robustas devem ser construídas para impedir que cibercriminosos patrocinados por estados, que usam IA para criar campanhas online enganosas e disruptivas.
O WEF também destacou a necessidade de implementar regulamentações de IA, dizendo: “Acordos internacionais sobre padrões interoperáveis e requisitos regulatórios básicos desempenharão um papel importante na habilitação da inovação e na melhoria da segurança da IA.”
Desenvolver estruturas eficazes requer parcerias estratégicas entre empresas de tecnologia como a OpenAI, o setor público e partes interessadas privadas, o que ajudará a implementar sistemas de IA éticos.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
