De faux clips IA de Vénézuéliens célébrant le départ de Maduro deviennent viraux sur X et TikTok

Des vidéos fabriquées par l'IA montrant de fausses célébrations au Venezuela ont explosé en ligne après que Nicolas Maduro a été retiré du pouvoir.

Ces clips, entièrement fabriqués à l'aide de l'intelligence artificielle, montrent de grandes foules acclamant, agitant des drapeaux et remerciant le président Donald Trump et l'armée américaine. Le problème, cependant, est que rien de tout cela ne s'est réellement produit.

L'un des premiers clips les plus viraux a été publié par un compte X appelé Wall Street Apes, qui compte plus d'un million d'abonnés, et il montre des citoyens vénézuéliens pleurant, s'embrassant et louant les États-Unis pour avoir renversé Maduro.

La publication a été signalée par les notes communautaires, mais seulement après que 38 000 personnes l'ont repostée et que 5,6 millions de personnes l'ont vue, et elle est même arrivée dans le fil d'Elon Musk avant que l'utilisateur ne la supprime. La note ajoutait cet avertissement :

« Cette vidéo est générée par l'IA et est actuellement présentée comme une déclaration factuelle destinée à induire les gens en erreur. »

Les plateformes IA aident à propager de fausses vidéos sur le Venezuela

Les vérificateurs de faits de la BBC et de l'AFP ont retracé la vidéo originale vers un compte TikTok appelé @curiousmindusa, qui publie régulièrement des clips générés par l'IA.

Bien que nous n'ayons pas pu trouver la source exacte, les deux rédactions ont confirmé qu'il s'agissait de la version la plus ancienne. Le clip est apparu après une opération militaire majeure le 3 janvier lorsque les forces américaines ont lancé des frappes aériennes et une raid au sol qui ont conduit à l'arrestation de Maduro.

Des images de lui en garde à vue se répandaient déjà en ligne avant même que le gouvernement ne publie une version officielle, et celles-ci étaient toutes fausses aussi.

L'AFP a également signalé plus de contenu trompeur. Un clip, qui ressemblait à une fête de rue à Caracas, s'est avéré être une ancienne vidéo du Chili après avoir été passée comme si des Vénézuéliens sortaient célébrer dans les rues.

Ce n'est pas la première fois que l'IA est utilisée pour déformer la réalité lors d'une nouvelle en direct, et ce ne sera certainement pas la dernière. Des schémas similaires se sont manifestés lors des conflits Russie-Ukraine et israélo-palestinien. Mais la vitesse et le réalisme des fausses informations vénézuéliennes sont ce qui les rend différentes cette fois-ci.

Des plateformes comme Sora et Midjourney ont rendu incroyablement facile la production de faux clips en quelques minutes, et les gens continuent de tomber dans le piège.

Les plateformes sociales peinent à suivre le rythme du contenu falsifié

Les créateurs derrière ces clips essaient souvent de pousser certains récits politiques ou de simplement semer le chaos en ligne. Et cela fonctionne. L'année dernière, une vidéo fabriquée par l'IA montrait de fausses femmes pleurant d'avoir perdu leurs prestations SNAP pendant un arrêt du gouvernement américain. Ce clip a été diffusé par Fox News comme réel, jusqu'à ce qu'ils soient contraints de le retirer.

Tout cela a déclenché des demandes plus fortes pour que les plateformes sociales étiquettent plus clairement les contenus générés par l'IA. L'Inde a même proposé une loi exigeant des étiquettes sur le contenu IA, et l'Espagne a approuvé des amendes de 35 millions d'euros pour tout contenu non étiqueté.

Certains sites essaient de rattraper leur retard. TikTok et Meta disent avoir construit des outils pour détecter et étiqueter les vidéos IA. CNBC a trouvé quelques fausses clips vénézuéliens sur TikTok qui étaient correctement marqués. Mais les résultats sont mitigés.

X, d'autre part, s'appuie principalement sur son système de notes communautaires. Les critiques disent qu'il ne fonctionne pas assez vite. Au moment où l'avertissement IA apparaît, des millions de personnes ont déjà regardé et partagé le contenu.

Même les dirigeants de plateformes lancent l'alarme. Adam Mosseri, qui dirige Instagram et Threads, a publié : « Toutes les grandes plateformes feront un bon travail pour identifier le contenu IA, mais elles deviendront moins bonnes avec le temps à mesure que l'IA deviendra meilleure pour imiter la réalité. »

Adam a ajouté : « Il y a déjà un nombre croissant de personnes qui croient, comme moi, qu'il sera plus pratique d'empreindre les médias réels que les médias falsifiés. »