O Reino Unido recruta a Microsoft para detecção de deepfakes no meio do aumento da IA

O Reino Unido anunciou planos de trabalhar com a Microsoft, acadêmicos e especialistas técnicos para construir um sistema de detecção de deepfakes, à medida que crescem as preocupações com a escala de engano gerado por IA online.

A iniciativa coloca deepfakes, IA, Reino Unido, Microsoft e sistemas de detecção no centro de um novo impulso para conter conteúdo prejudicial que está se tornando cada vez mais realista e difícil de detectar.

O Reino Unido está mirando em fraude e imagens não consentidas

De acordo com o governo, a parceria desenvolverá um framework de avaliação de detecção de deepfakes, que criará um conjunto de padrões compartilhados para avaliar dispositivos de detecção de circuitos para arquivos de áudio, vídeo e imagem alterados.

Além de fornecer uma referência para esses tipos de dispositivos de detecção contra exemplos do mundo real de uso (fraude e suplantando identidade), bem como imagens ou vídeos de exploração sexual de crianças.

A Ministra da Tecnologia, Liz Kendall, alertou que esse risco não existe apenas teoricamente.

"Os deepfakes estão sendo usados por criminosos para enganar o público, tirar vantagem de mulheres e meninas e diminuir a credibilidade do que vemos e ouvimos. E continuarão até que tomemos medidas para proteger os cidadãos e as instituições democráticas da manipulação."

Kendall

A alteração de mídia existe há décadas. No entanto, especialistas dizem que, com o desenvolvimento da IA, a quantidade de dinheiro e habilidade necessária para produzir um falsificação de alta qualidade é mais acessível do que nunca.

No Reino Unido, há um foco aumentado no ato criminal de produzir imagens íntimas sem consentimento como resultado direto do rápido aumento no número de imagens falsas produzidas por IA.

De acordo com dados do governo, houve oito milhões de imagens falsas produzidas como deepfakes em 2025, em comparação com apenas 500.000 em 2023. Isso mostra o quão rapidamente as pessoas estão criando esse tipo de imagem.

O framework foi criado para permitir que as forças policiais detectem, previnam e processem esse crime e para fornecer à indústria um conjunto claro de expectativas em relação às regulamentações de segurança.

Este é um movimento que os governos foram instados a fazer e a Microsoft pediu ao Congresso em 2024 que aprovasse nova legislação direcionada a deepfakes gerados por IA. Brad Smith, Vice-Presidente e Presidente da Microsoft, enfatizou a urgência para os legisladores abordarem a crescente ameaça da tecnologia deepfake.

Em seu post de blog, Smith destacou a importância de adaptar as leis para abordar a fraude de deepfakes e prevenir a exploração. De acordo com Smith, deveria haver uma estatuto que pudesse ser usado para acusar golpes e fraudes de deepfakes.

De acordo com o relatório da Microsoft, várias intervenções legais podem ser tomadas para prevenir o uso indevido da tecnologia deepfake. Uma das sugestões é criar um 'estatuto federal de fraude de deepfake'.

Pressão nas plataformas por meio de regulamentação

Em todo o mundo, os reguladores estão tendo dificuldade em acompanhar os rápidos avanços da tecnologia de IA.

No Reino Unido, tanto o escritório que regula as comunicações (o "Regulador de Comunicações") quanto o escritório que regula a privacidade (o "Regulador de Privacidade") começaram a investigar o chatbot Grok, operado por Elon Musk, devido ao chatbot produzir imagens sexualizadas de crianças que foram produzidas sem o seu consentimento.

Como parte desta investigação, os dois órgãos reguladores trabalharão juntos para desenvolver um novo framework para auxiliar as forças policiais e agências reguladoras na estabelecimento de padrões consistentes sobre como avaliar as ferramentas de detecção usadas pelas forças policiais e agências reguladoras.

De acordo com Kendall, o propósito deste novo framework é "promover a restauração da confiança no que as pessoas veem e ouvem online", e exigir que todos os provedores de tecnologia assumam a responsabilidade de mitigar possíveis danos relacionados ao uso acelerado de tecnologias de IA.