Conselho de Supervisão da Meta pede política de conteúdo mais rigorosa na remoção de vídeo deepfake de político do Reino Unido

O Conselho de Supervisão da Meta decidiu que a empresa deve remover um vídeo gerado por IA de uma vereadora trabalhista escocesa que a mostrava falsamente endossando violência sexual por refugiados. 

A empresa inicialmente decidiu mantê-lo no ar e, além de anular essa decisão, o conselho de supervisão também alertou que o tratamento da Meta em relação aos deepfakes coloca os usuários em risco de engano.

Que vídeo fabricado a Meta deve remover? 

Em novembro de 2025, um clipe usando a imagem de uma política local do Partido Trabalhista na Escócia surgiu no Facebook. O vídeo mostrava a imagem dizendo: “Os refugiados são bem-vindos aqui, mesmo que estuprem nossas mulheres, porque os brancos também fazem isso.”

O Conselho de Supervisão da Meta descreveu a representação como realista, mas sintética, observando que o áudio não correspondia aos movimentos faciais dela. O vídeo foi encontrado em um álbum que também continha uma fotografia de várias mulheres nomeadas, incluindo a vereadora, em um protesto contra a extrema-direita.

Duas pessoas, uma delas a própria vereadora, sinalizaram o vídeo sob as regras de bullying e assédio da Meta, mas os sistemas da Meta nunca o rotearam para um revisor humano, e ele permaneceu no ar durante dois recursos. 

Um terceiro usuário levou o caso ao Conselho e, mesmo depois de sinalizarem, a Meta manteve que o vídeo não violava nenhuma regra e não justificava um rótulo de IA. A vereadora disse ao Conselho que o vídeo foi “bastante traumático.” 

A maioria do Conselho decidiu que o clipe violava a política de Conduta Odiosa da Meta porque acusava os refugiados como um grupo inteiro de criminalidade séria e comportamento sexual predatório, rejeitando a alegação da Meta de que visava apenas alguns refugiados. O Conselho não o tratou como desinformação removível, mas disse que deveria ter carregado um rótulo de “IA de Alto Risco”.

O Conselho concordou em um ponto a favor da Meta, que é que as regras de bullying e assédio não exigiam remoção porque um funcionário eleito é uma figura pública com direito a menos proteção do que uma pessoa privada.

Quais recomendações o Conselho de Supervisão tem para a Meta?

O conselho também interveio em relação a um segundo caso, que envolvia uma entrevista manipulada por IA de uma mulher promovendo a educação em saúde menstrual. Após a intervenção do conselho, a Meta removeu o vídeo por bullying. 

As duas decisões levaram o Conselho a chamar as salvaguardas da Meta de “consistentemente e fundamentalmente inadequadas”.

O Conselho recomendou que a Meta reduza o limite para rótulos de “alto risco” para que não sejam reservados apenas para eleições ou crises e substitua alguns rótulos por um intersticial com clique. Também sugeriu que o conteúdo de IA de alto risco deve ser desmonetizado, despromovido ou removido das recomendações, com penalidades escalonadas para compartilhadores repetidos. 

Ela também quer que a Meta priorize o conteúdo suspeito de IA para revisão humana quando relatado, publique dados anuais sobre com que frequência aplica rótulos de IA, incluindo em posts sobre políticos, e formule suas regras de votação e censo para se aplicarem globalmente, em vez de apenas nos Estados Unidos. A Meta tem 60 dias para responder ao conselho. 

Governos e plataformas em todo o mundo estão endurecendo suas regras sobre mídia sintética. Por exemplo, o Supremo Tribunal Popular da China estabeleceu regras de responsabilidade em 7 de setembro, que afirmam que criar ou compartilhar uma réplica de IA do rosto ou voz de alguém sem permissão é uma violação. reportou o Cryptopolitan que Pequim removeu separadamente mais de 14.000 produtos de IA na primeira fase de sua limpeza “Qinglang” no início deste ano. 

O Código de Prática da União Europeia sobre Transparência de Conteúdo Gerado por IA impulsiona os provedores a marcar a saída de IA e os implantadores a rotular deepfakes. 

Política de Conteúdo Gerado por IA do Google Play proíbe os usuários de postar material sexual deepfake não consensual e conteúdo eleitoral que seja “demonstravelmente enganoso ou falso”.

Apenas alguns usuários têm permissão para usar IA na escrita sem divulgação no Medium, e a plataforma proíbe a desinformação gerada por IA diretamente.