Des vidéos réalisées par intelligence artificielle montrant de fausses célébrations au Venezuela ont explosé en ligne après la destitution de Nicolas Maduro.
Ces vidéos, entièrement réalisées par intelligence artificielle, montrent des foules immenses acclamant, agitant des drapeaux et remerciant ledent Donald Trump et l'armée américaine. Le problème, c'est que rien de tout cela ne s'est réellement produit.
L'une des premières vidéos, devenue virale, a été publiée par un compte X appelé Wall Street Apes, qui compte plus d'un million d'abonnés. Elle montre des citoyens vénézuéliens qui pleurent, s'enlacent et félicitent les États-Unis d'avoir renversé Maduro.
La publication a été signalée par la communauté, mais seulement après avoir été partagée 38 000 fois et vue 5,6 millions de fois. Elle est même apparue sur le fil d'actualité d'Elon Musk avant d'être supprimée par son auteur. La note ajoutait l'avertissement suivant :
« Cette vidéo est générée par une intelligence artificielle et est actuellement présentée comme une déclaration factuelle dans le but d'induire les gens en erreur. »
Les plateformes d'IA contribuent à diffuser de fausses vidéos sur le Venezuela
Les vérificateurs de faits de la BBC et de l'AFP tracla vidéo originale jusqu'à un compte TikTok appelé @curiousmindusa, qui publie régulièrement des clips générés par l'IA.
Bien que nous n'ayons pas pu identifier la source exacte, les deux rédactions ont confirmé qu'il s'agissait de la première version connue. La vidéo est apparue après une importante opération militaire, le 3 janvier, au cours de laquelle les forces américaines ont mené des frappes aériennes et un raid terrestre qui a conduit à l'arrestation de Maduro.
Des images de lui en détention circulaient déjà en ligne avant même que le gouvernement ne publie de version officielle, et ces premières images étaient toutes fausses elles aussi.
L'AFP a également signalé d'autres contenus trompeurs. Une vidéo, qui semblait montrer une fête de rue à Caracas, s'est avérée être une ancienne vidéo chilienne, après avoir été diffusée comme montrant des Vénézuéliens en fête dans les rues.
Ce n'est pas la première fois que l'IA est utilisée pour déformer la réalité lors d'un événement d'actualité majeur, et ce ne sera defipas la dernière. Des schémas similaires sont apparus lors des conflits russo-ukrainien et israélo-palestinien. Mais la rapidité et le réalisme des fausses informations concernant le Venezuela les distinguent cette fois-ci.
Des plateformes comme Sora et Midjourney ont rendu incroyablement facile la production de fausses vidéos en quelques minutes, et les gens continuent de se faire avoir.
Les plateformes sociales peinent à suivre le rythme des faux contenus
Les créateurs de ces vidéos cherchent souvent à promouvoir certains discours politiques ou simplement à semer le chaos en ligne. Et ça marche. L'année dernière, une vidéo générée par intelligence artificielle montrait de fausses femmes pleurant la perte de leurs allocations alimentaires (SNAP) lors d'une paralysie du gouvernement américain. Cette vidéo a été diffusée par Fox News comme si elle était authentique, avant d'être retirée.
Tout cela a suscité des demandes croissantes pour que les plateformes sociales étiquettent plus clairement les contenus générés par l'IA. L'Inde a même proposé une loi rendant obligatoire l'étiquetage de ces contenus, et l'Espagne a approuvé des amendes de 35 millions d'euros pour tout contenu non étiqueté.
Certains sites tentent de rattraper leur retard. TikTok et Meta affirment avoir développé des outils pour détecter et étiqueter les vidéos générées par l'IA. CNBC a trouvé quelques fausses vidéos vénézuéliennes sur TikTok qui avaient été correctement signalées. Mais les résultats sont mitigés.
X, en revanche, s'appuie principalement sur son système de notes communautaires. Ses détracteurs affirment qu'il est trop lent. Au moment où l'alerte de l'IA s'affiche, des millions de personnes ont déjà visionné et partagé le contenu.
Même les dirigeants des plateformes tirent la sonnette d'alarme. Adam Mosseri, qui dirige Instagram et Threads, a publié : « Toutes les grandes plateformes feront du bon travail pourdentles contenus générés par l'IA, mais leurs performances se dégraderont avec le temps à mesure que l'IA deviendra plus performante pour imiter la réalité. »
Adam a ajouté: « Un nombre croissant de personnes pensent, comme moi, qu'il sera plus pratique d'identifier les vrais médias que les faux. »
