À medida que os Estados Unidos se preparam para mais uma eleiçãodent, as preocupações com a disseminação de desinformação política levaram a empresa de inteligência artificial Midjourney a considerar a proibição de imagens com políticos de alto escalão, como Joe Biden e Donald Trump. Essa decisão surge na sequência dedentenvolvendo a criação de imagens falsas e deepfakes, aumentando os alertas sobre o potencial desse conteúdo para influenciar a opinião pública e os resultados eleitorais.
Resposta às ameaças de desinformação
A Midjourney, conhecida por sua ferramenta de geração de imagens por IA, se viu no centro de discussões sobre o uso da tecnologia para manipular o discurso público. Há relatos de que a empresa está considerando proibir a criação e disseminação de imagens que retratem figuras políticas, principalmente aquelas com potencial para enganar ou espalhar informações falsas. Essa medida é vista como uma ação proativa para mitigar o risco de conteúdo gerado por IA ser usado como arma para fins políticos ou para semear discórdia durante o período eleitoral.
Declaração do CEO da Midjourney e políticas da plataforma
David Holz, CEO da Midjourney, teria comunicado as intenções da empresa durante uma sessão de bate-papo no Discord, reconhecendo o fascínio de criar imagens com personalidades proeminentes como Trump, mas enfatizando a importância de cautela, especialmente no atual clima político. Embora a Midjourney já possua políticas para evitar a criação de conteúdo enganoso, incluindo restrições a imagens de figuras públicas e eventos, a possível proibição de imagens políticas representa uma postura mais assertiva no combate à desinformação.
Desafios e limitações
Apesar dos esforços para regulamentar o uso de suas ferramentas de IA, a Midjourney enfrenta desafios para conter efetivamente a proliferação de imagens falsas e deepfakes. A investigação da Bloomberg revelou que, embora a empresa tenha implementado regras para impedir a criação de conteúdo enganoso, ainda existem brechas que permitem que imagens modificadas contornem certas restrições. Além disso, a eficácia da proibição de imagens políticas específicas permanece incerta, pois pode não resolver o problema subjacente das campanhas de desinformação impulsionadas por IA e seu potencial impacto na integridade eleitoral.
Esforços de toda a indústria para combater a desinformação
As reflexões de Midjourney coincidem com iniciativas mais amplas dentro da indústria de tecnologia para combater a desinformação política. Plataformas como ChatGPT e Meta estão explorando estratégias para etiquetar ou detectar conteúdo gerado por IA, visando fornecer aos usuários ferramentas paradentmídias potencialmente enganosas. No entanto, embora tais medidas possam auxiliar nadentde conteúdo manipulado, elas podem não abordar completamente os complexos desafios impostos pelo uso indevido da tecnologia de IA na formação do discurso público e na influência sobre eleições.
