Ferramentas de IA representam ameaça com imagens eleitorais enganosas, alertam pesquisadores.
- Ferramentas de criação de imagens baseadas em inteligência artificial, apesar das políticas contra a desinformação, estão sendo usadas para gerar imagens enganosas relacionadas às eleições, segundo pesquisadores.
- O Centro de Combate ao Ódio Digital (CCDH) testou diversas ferramentas de IA, incluindo o ChatGPT Plus e o Image Creator da Microsoft, e constatou uma significativa suscetibilidade à geração de conteúdo enganoso, particularmente em relação a fraudes eleitorais.
- A União Europeia avança com os planos de empregar inteligência artificial no estabelecimento de um "escudo cibernético" para proteger infraestruturas críticas contra ameaças cibernéticas, enfatizando a importância de mecanismos de detecção e resposta em tempo real.
Ferramentas de IA para criação de imagens emergiram como uma potencial via para disseminar informações enganosas relacionadas às eleições, apesar dos esforços de empresas como OpenAI e Microsoft para combater a desinformação. Pesquisadores do Centro de Combate ao Ódio Digital (CCDH) revelaram, em um relatório recente, o potencial alarmante dessas ferramentas para gerar imagens enganosas, levantando preocupações sobre seu impacto na integridade dos processos eleitorais.
Ferramentas de IA e desinformação eleitoral
Em um relatório recente divulgado pelo Centro de Combate ao Ódio Digital (CCDH), foram levantadas preocupações sobre o uso indevido de ferramentas de criação de imagens com inteligência artificial na geração de conteúdo enganoso relacionado às eleições. Apesar das políticas destinadas a impedir a disseminação de desinformação, pesquisadores descobriram que ferramentas como o ChatGPT Plus da OpenAI e o Image Creator da Microsoft podem ser manipuladas para produzir imagens falsas. O CCDH realizou testes com essas ferramentas, juntamente com o Midjourney e o DreamStudio da Stability AI, revelando sua vulnerabilidade a solicitações de imagens que retratam fraude eleitoral. Notavelmente, o Midjourney apresentou a maior taxa de geração de imagens enganosas, alarmando os pesquisadores sobre o potencial dessas imagens para influenciar a percepção pública.
O relatório destaca os desafios na moderação eficaz de conteúdo gerado por IA, particularmente em relação a tópicos politicamente sensíveis. Embora empresas como a OpenAI e a Microsoft possuam políticas para combater conteúdo enganoso, o rápido avanço da tecnologia de IA representa desafios significativos para se manter à frente de agentes maliciosos. À medida que as ferramentas de IA se tornam mais acessíveis e sofisticadas, a necessidade de mecanismos robustos de moderação torna-se cada vez mais urgente para preservar a integridade dos processos democráticos.
Iniciativas de cibersegurança da União Europeia
Entretanto, em um esforço para reforçar as medidas de cibersegurança, a União Europeia (UE) revelou planos para utilizar inteligência artificial e outras tecnologias avançadas para estabelecer um “escudo cibernético” que proteja infraestruturas críticas contra ciberameaças. Esta iniciativa, consagrada na Lei de Solidariedade Cibernética, visa aproveitar ferramentas e infraestruturas de ponta, incluindo IA e análise avançada de dados, para detetar e responder rapidamente a ciberameaças. A Lei propõe o estabelecimento de um Sistema Europeu de Alerta de Cibersegurança, concebido para fornecer informações em tempo real às autoridades, e um Mecanismo de Emergência de Cibersegurança para supervisionar a preparação em setores críticos. Além disso, os negociadores da UE concordaram em atualizar a atual Lei de Cibersegurança para permitir a adoção de esquemas de certificação europeus para fornecedores de cibersegurança de confiança.
Além disso, a implementação da Lei de Solidariedade Cibernética reforça o compromisso da UE em aprimorar a colaboração e o compartilhamento de informações entre os Estados-Membros para combater eficazmente as ameaças cibernéticas. Ao estabelecer uma estrutura coordenada para iniciativas de cibersegurança, a UE visa abordar a natureza em constante evolução das ameaças cibernéticas e minimizar o impacto potencial em setores críticos. A integração da inteligência artificial e da análise avançada na infraestrutura de cibersegurança reflete uma abordagem proativa para antecipar ameaças emergentes e salvaguardar a resiliência da economia digital.
À medida que o uso da inteligência artificial continua a evoluir, surgem questões sobre suas potenciais implicações para diversos aspectos da sociedade, incluindo a integridade eleitoral e a segurança cibernética. Com as ferramentas de IA cada vez mais suscetíveis ao uso indevido, o desafio reside em encontrar medidas eficazes para mitigar os riscos representados por conteúdo enganoso. Como os formuladores de políticas e as empresas de tecnologia podem colaborar para enfrentar essas ameaças emergentes e salvaguardar os processos democráticos e a infraestrutura crítica de forma eficaz?
As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Ele se formou na MAJ University com um MBA em Finanças e Marketing. Atualmente, trabalha na Cryptopolitan, onde reporta sobre os últimos acontecimentos nos mercados de criptomoedas e previsões de preços.
