Órgão de fiscalização eleitoral do Reino Unido alerta para a impotência contra deepfakes gerados por IA

O órgão fiscalizador das eleições no Reino Unido soou o alarme, expressando sua incapacidade de combater o conteúdo "deepfake", deixando assim a Grã-Bretanha suscetível à influência disruptiva de vídeos falsos de políticos gerados por inteligência artificial nas próximas eleições.

O órgão fiscalizador das eleições no Reino Unido emitiu um alerta contundente, revelando sua falta de autoridade para lidar com a crescente ameaça de conteúdo "deepfake". Essa revelação perturbadora expõe a vulnerabilidade do país à potencial manipulação de seus processos eleitorais por meio do uso de vídeos falsos gerados por inteligência artificial.

Especialistas em inteligência artificial alertaram que as próximas eleições no Reino Unido podem ser influenciadas por áudios e vídeos "deepfake" convincentes, gerados por IA, de figuras políticas. Essa tecnologia representa um risco significativo para a integridade dos processos democráticos.

dentrecentes de deepfake

Nos últimos meses, houve casos notáveis ​​de conteúdo deepfake convincente, gerado por IA, direcionado a figuras políticas, especificamente dentro do Partido Trabalhista. No início de outubro, uma conta do Twitter/X publicou o que parecia ser um áudio do líder trabalhista Sir Keir Starmer fazendo comentários depreciativos sobre os funcionários de seu partido. Isso foi seguido por um clipe de áudio deepfake do prefeito trabalhista de Londres, Sadiq Khan, aparentemente demonstrando desrespeito às comemorações do Dia da Lembrança.

O status legal de vídeos e áudios deepfake envolvendo figuras políticas permanece incerto. Embora possam potencialmente se enquadrar nas novas medidas contra comunicações maliciosas da Lei de Segurança Online, as autoridades têm enfrentado desafios para lidar com esse tipo de conteúdo. Notavelmente, a Polícia Metropolitana arquivou uma investigação sobre o deepfake de Sadiq Khan, alegando que não constituía crime

Preocupações com a desinformação viral gerada por IA

Especialistas expressam preocupação com a possibilidade de vídeos falsos de políticos, gerados por inteligência artificial, se tornarem virais no período que antecede as próximas eleições. A facilidade e o baixo custo de produzir vídeos falsos convincentes de figuras públicas dizendo ou fazendo coisas escandalosas tornaram esse tipo de interferência cada vez mais acessível. Muitos especialistas na área preveem que agentes estatais hostis possam explorar tecnologias emergentes para influenciar as eleições no Reino Unido e perturbar o processo democrático.

A partir de novembro de 2023, os materiais de campanha deverão incluir um selo indicando o editor de determinado conteúdo político online. No entanto, não há obrigação de divulgar se o conteúdo foi gerado por IA, e a Comissão Eleitoral não tem autoridade para sancionar ou remover desinformação. Embora a Ofcom possua mais poderes regulatórios nessa área, o arcabouço legal relativo à desinformação política gerada por IA e aos deepfakes permanece ambíguo.

Autoridade limitada da Comissão Eleitoral

A Comissão Eleitoral esclareceu seu papel no combate aos deepfakes e ao conteúdo de material de campanha, afirmando que sua principal responsabilidade é regular o financiamento de partidos e campanhas e garantir o cumprimento das exigências de identificação digital. Embora a Comissão reconheça os desafios impostos pelo conteúdo gerado por inteligência artificial, ela não possui jurisdição para combater diretamente as questões relacionadas a deepfakes.

A Comissão está colaborando ativamente com parceiros e outros órgãos reguladores para obter uma melhor compreensão das oportunidades e desafios apresentados pela tecnologia de IA nas eleições. Ela também incentiva os eleitores a avaliarem criticamente as informações online e oferece orientações sobredentidentificar notícias falsas, encaminhando as preocupações aos órgãos reguladores competentes.

Apelos por poderes regulatórios reforçados

Reconhecendo as limitações das regulamentações atuais, a Comissão Eleitoral está defendendo que o governo do Reino Unido fortaleça a autoridade dos órgãos reguladores britânicos, incluindo a própria Comissão. Especificamente, a Comissão busca maiores poderes para obter informações de plataformas de mídia social, empresas de tecnologia e provedores de pagamento online. Essa iniciativa visadentas fontes de financiamento de campanhas de desinformação política, abordando um aspecto crucial da questão.

Respostas das gigantes da tecnologia

A Byline Times entrou em contato com diversas gigantes da tecnologia para se informar sobre suas políticas e medidas para combater deepfakes políticos prejudiciais. O TikTok, por exemplo, afirmou que proíbe toda publicidade política e exige a divulgação clara de mídias sintéticas ou conteúdo manipulado que apresente cenas realistas. O TikTok também mantém políticas rigorosas contra a desinformação.

O Google/Alphabet enfatizou seus esforços contínuos para combater a desinformação e sua experimentação com tecnologia de marca d'água para indicar conteúdo gerado por IA. O Google anunciou o SynthID, uma ferramenta para incorporar marcas d'água digitais imperceptíveis em imagens geradas por IA para verificar sua autenticidade.

O Google também destacou seu progresso na detecção de fala sintética com quase 99% de precisão e revelou planos para atualizar sua política de Conteúdo Político. Essa atualização exigirá que anunciantes eleitorais verificados divulguem de forma clara e visível o conteúdo sintético em seus anúncios, incluindo imagens, vídeos e áudio.

O YouTube, pertencente ao Google, possui políticas rigorosas contra "conteúdo tecnicamente manipulado" que induz os espectadores ao erro e representa um risco de danos graves. O YouTube também exigirá que os criadores divulguem quando criarem conteúdo alterado ou sintético que pareça realista.

Desafios e riscos da desinformação gerada por IA

O principal risco associado ao conteúdo deepfake gerado por IA é a criação de vídeos convincentes que retratam eventos que nunca ocorreram ou indivíduos dizendo e fazendo coisas que nunca fizeram. Esse risco torna-se particularmente sensível no contexto de campanhas eleitorais, onde a opinião pública pode ser influenciada por esse tipo de conteúdo enganoso.

Respostas do Meta/Facebook e do Twitter

O Meta/Facebook não respondeu às perguntas sobre suas políticas e medidas para lidar com deepfakes políticos. O Twitter/X respondeu com uma mensagem automática, sem oferecer mais detalhes sobre seu posicionamento ou ações em relação ao assunto.

Com a ameaça de deepfakes gerados por IA pairando sobre os processos democráticos do Reino Unido, a nação enfrenta um desafio crítico para regular e combater eficazmente a disseminação desse conteúdo enganoso. O envolvimento de gigantes da tecnologia na implementação de medidas para combater deepfakes ressalta a urgência de abordar essa questão para proteger a integridade das eleições e do discurso democrático.