Vídeos falsos criados por inteligência artificial, mostrando venezuelanos comemorando a saída de Maduro, viralizam no X e no TikTok

Vídeos criados por inteligência artificial, mostrando comemorações falsas na Venezuela, viralizaram na internet após a saída de Nicolás Maduro do poder.

Esses vídeos, completamente fabricados com inteligência artificial, mostram grandes multidões aplaudindo, acenando bandeiras e agradecendo aodent Donald Trump e às forças armadas dos EUA. O problema, porém, é que nada disso aconteceu de verdade.

Um dos primeiros e mais virais vídeos foi postado por uma conta do X chamada Wall Street Apes, que tem mais de 1 milhão de seguidores, e mostra cidadãos venezuelanos chorando, se abraçando e elogiando os EUA por derrubarem Maduro.

A publicação foi sinalizada pela comunidade, mas somente depois de 38.000 pessoas a terem republicado e 5,6 milhões de visualizações, chegando até mesmo ao feed de Elon Musk antes de o usuário a excluir. A nota acrescentou o seguinte aviso:

“Este vídeo foi gerado por inteligência artificial e está sendo apresentado como uma declaração factual com o intuito de enganar as pessoas.”

Plataformas de IA ajudam a espalhar vídeos falsos sobre a Venezuela

Os verificadores de fatos da BBC e da AFP traco vídeo original até uma conta do TikTok chamada @curiousmindusa, que publica regularmente vídeos gerados por inteligência artificial.

Embora não tenhamos conseguido encontrar a fonte exata, ambas as redações confirmaram que essa era a versão mais antiga. O vídeo surgiu após uma grande operação militar em 3 de janeiro, quando as forças americanas lançaram ataques aéreos e uma incursão terrestre que resultou na prisão de Maduro.

Imagens dele sob custódia já circulavam online antes mesmo de o governo divulgar uma versão oficial, e essas primeiras imagens também eram falsas.

A AFP também identificou mais conteúdo enganoso. Um vídeo, que parecia mostrar uma festa de rua em Caracas, na verdade era um vídeo antigo do Chile, que foi divulgado como se venezuelanos estivessem comemorando nas ruas.

Esta não é a primeira vez que a IA é usada para distorcer a realidade durante uma notícia de última hora, e definão será a última. Padrões semelhantes apareceram durante os conflitos entre Rússia e Ucrânia e entre Israel e Palestina. Mas a velocidade e o realismo das notícias falsas sobre a Venezuela são o que as tornam diferentes desta vez.

Plataformas como Sora e Midjourney tornaram ridiculamente fácil produzir vídeos falsos em minutos, e as pessoas continuam caindo nessa.

As plataformas de redes sociais têm dificuldade em lidar com conteúdo falso

Os criadores desses vídeos frequentemente tentam promover certas narrativas políticas ou simplesmente semear o caos online. E está funcionando. No ano passado, um vídeo gerado por inteligência artificial mostrava mulheres fictícias chorando por perderem seus benefícios do SNAP (Programa de Assistência Nutricional Suplementar) durante uma paralisação do governo americano. Esse vídeo foi exibido pela Fox News como se fosse real, até que eles tiveram que retirá-lo do ar.

Tudo isso gerou demandas mais intensas para que as plataformas de mídia social rotulem com mais clareza o conteúdo gerado por IA. A Índia chegou a propor uma lei que exige a rotulagem de conteúdo de IA, e a Espanha aprovou multas de € 35 milhões para qualquer conteúdo sem rótulo.

Algumas plataformas estão tentando acompanhar o ritmo. O TikTok e o Meta afirmam ter desenvolvido ferramentas para detectar e etiquetar vídeos gerados por IA. A CNBC encontrou alguns vídeos falsos sobre a Venezuela no TikTok que foram corretamente identificados. Mas os resultados são variados.

O X, por outro lado, depende principalmente do seu sistema de notas da comunidade. Os críticos dizem que ele não funciona rápido o suficiente. Quando o aviso da IA ​​aparece, milhões de pessoas já assistiram e compartilharam o conteúdo.

Até mesmo os chefes das plataformas estão soando o alarme. Adam Mosseri, que administra o Instagram e o Threads, publicou: "Todas as principais plataformas farão um bom trabalhodentidentificar conteúdo de IA, mas piorarão com o tempo, à medida que a IA se tornar melhor em imitar a realidade."

Adam acrescentou: "Já existe um número crescente de pessoas que acreditam, como eu, que será mais prático identificar mídias reais por meio de impressões digitais do que mídias falsas."