Ferramentas de IA Apresentam Ameaça com Imagens Eleitorais Enganosas, Alertam Pesquisadores

- Ferramentas de criação de imagens impulsionadas por IA, apesar das políticas contra desinformação, estão sendo usadas para gerar imagens eleitorais enganosas, segundo pesquisadores.
- O Centro para Combater o Ódio Digital (CCDH) testou várias ferramentas de IA, incluindo ChatGPT Plus e Image Creator da Microsoft, descobrindo significativa vulnerabilidade à geração de conteúdo enganoso, particularmente em relação à fraude eleitoral.
- A União Europeia avança com planos de empregar inteligência artificial para estabelecer um "escudo cibernético" destinado a proteger infraestruturas críticas contra ameaças cibernéticas, enfatizando a importância de mecanismos de detecção e resposta em tempo real.
Ferramentas de IA para criação de imagens emergiram como uma potencial via para a disseminação de informações enganosas relacionadas a eleições, apesar dos esforços de empresas como OpenAI e Microsoft para combater a desinformação. Pesquisadores do Centro para Combater o Ódio Digital (CCDH) revelaram em um relatório recente o potencial alarmante dessas ferramentas para gerar imagens enganosas, levantando preocupações sobre seu impacto na integridade dos processos eleitorais.
Ferramentas de IA e desinformação eleitoral
Em um relatório recente lançado pelo Centro para Combater o Ódio Digital (CCDH), foram levantadas preocupações sobre o uso indevido de ferramentas de criação de imagens alimentadas por IA para gerar conteúdo enganoso relacionado a eleições. Apesar de políticas destinadas a impedir a disseminação de desinformação, os pesquisadores descobriram que ferramentas como o ChatGPT Plus da OpenAI e o Image Creator da Microsoft poderiam ser manipuladas para produzir imagens falsas. O CCDH realizou testes nessas ferramentas, bem como no Midjourney e no DreamStudio da Stability AI, revelando sua suscetibilidade a prompts solicitando imagens que retratassem fraude eleitoral. Notavelmente, o Midjourney exibiu a maior taxa de geração de imagens enganosas, alarmando os pesquisadores sobre o potencial dessas imagens de influenciar a percepção pública.
O relatório destaca os desafios na moderação eficaz de conteúdo gerado por IA, particularmente em relação a temas politicamente sensíveis. Embora empresas como OpenAI e Microsoft tenham políticas em vigor para combater conteúdo enganoso, o rápido avanço da tecnologia de IA apresenta desafios significativos em manter-se à frente de atores mal-intencionados. À medida que as ferramentas de IA se tornam mais acessíveis e sofisticadas, a necessidade de mecanismos de moderação robustos torna-se cada vez mais urgente para preservar a integridade dos processos democráticos.
Iniciativas de cibersegurança da União Europeia
Enquanto isso, em uma tentativa de reforçar as medidas de cibersegurança, a União Europeia (UE) revelou planos para utilizar inteligência artificial e outras tecnologias avançadas para estabelecer um “escudo cibernético” protegendo a infraestrutura crítica contra ameaças cibernéticas. Esta iniciativa, consagrada no Ato de Solidariedade Cibernética, visa aproveitar ferramentas e infraestruturas de última geração, incluindo IA e análise avançada de dados, para detectar e responder rapidamente a ameaças cibernéticas. O Ato propõe o estabelecimento de um Sistema Europeu de Alerta de Cibersegurança, projetado para fornecer informações em tempo real às autoridades, e um Mecanismo de Emergência de Cibersegurança para supervisionar a preparação em setores críticos. Além disso, os negociadores da UE concordaram em atualizar o Ato de Cibersegurança existente para permitir a adoção de esquemas de certificação europeus para provedores de cibersegurança confiáveis.
Além disso, a implementação do Ato de Solidariedade Cibernética sublinha o compromisso da UE de melhorar a colaboração e o compartilhamento de informações entre os estados-membros para combater eficazmente as ameaças cibernéticas. Ao estabelecer um quadro coordenado para iniciativas de cibersegurança, a UE visa abordar a natureza em evolução das ameaças cibernéticas e minimizar o impacto potencial em setores críticos. A integração de inteligência artificial e análise avançada na infraestrutura de cibersegurança reflete uma abordagem proativa para manter-se à frente das ameaças emergentes e proteger a resiliência da economia digital.
À medida que o uso da inteligência artificial continua a evoluir, surgem questões sobre suas implicações potenciais para vários aspectos da sociedade, incluindo a integridade eleitoral e a cibersegurança. Com ferramentas de IA cada vez mais suscetíveis a uso indevido, o desafio reside em encontrar medidas eficazes para mitigar os riscos apresentados por conteúdo enganoso. Como os formuladores de políticas e as empresas de tecnologia podem colaborar para abordar essas ameaças emergentes e proteger eficazmente os processos democráticos e a infraestrutura crítica?
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.

Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.















