Des bots utilisant l'IA inondent les réseaux sociaux de désinformation

Presque chaque mois, Internet regorge d'idées nouvelles et ingénieuses pour s'enrichir sans effort. Nombreux sont ceux qui ont adopté les outils d'IA pour améliorer leur travail et obtenir de meilleurs résultats. Les chaînes d'information locales publient les photos de leurs présentateurs, et le ministère des Affaires étrangères met en place une plateforme numérique. Contrairement à la traduction et à la correction grammaticale, devenues courantes et attendues, ces outils font désormais partie intégrante de notre quotidien et sont rarement associés à l'IA.

Découverte de la ferme de bots alimentée par l'IA

Il existe un autre créneau : la création de contenu entièrement original. Sa création ne prend que vingt minutes, voire une minute à peine. La plateforme d’IA est entièrement utilisée pour produire des vidéos (ou traiter des vidéos volées), rédiger les textes et tracaudio, mettre en scène le tout et ajouter des descriptions et des hashtags pour les publier sur les réseaux sociaux en quelques secondes seulement.

Ainsi, les réseaux sociaux se transforment peu à peu en simples poubelles d'intelligence artificielle, et ces outils permettent de enjdans l'illusion d'avoir créé une vidéo promotionnelle susceptible de devenir virale et lucrative. Ou bien, ils diffusent la propagande russe au point de devenir la voix dominante sur le sujet.

Vous verrez comment l'IA contribue à la diffusion du message concernant les fermes de faux comptes à travers l'exemple d'une ferme de bots composée de 300 chaînes. Cette ferme utilisait l'IA pour traiter et générer des vidéos à partir de chaînes YouTube d'origine russe ou biélorusse. Prenons l'exemple d'Anastasiia Kozhevnikova, une jeune femme originaire de Marioupol, devenue une YouTubeuse russe reconnue. Bien qu'elle ne compte que 190 000 abonnés sur sa chaîne, elle illustre parfaitement comment une utilisation intelligente d'Internet peut donner la parole à une personne opprimée dans son pays d'origine. Elle est connue pour diffuser les mythes de la propagande russe, notamment celui de la « Russie sauveuse » et de la renaissance de Marioupol après la destruction.

Néanmoins, en quittant son profil, on est frappé par le manque d'informations sur le sujet abordé. Elle se présente et parle du contenu de ses vlogs. Comment le spectateur peut-il savoir qu'il existe d'autres réseaux similaires ? Et si c'était un lien vers la chaîne YouTube d'une star des réseaux sociaux ? Des cartes de visite illustrant la mission de l'organisation seraient tout à fait envisageables. Voire même des numéros de carte de visite plus explicites. En revanche, on constate un manque flagrant d'incitation à s'abonner. À cet égard, chaque chaîne peut se spécialiser. Or, j'ai constaté que beaucoup de chaînes de ce type en sont déjà équipées.

La propagation insidieuse de la désinformation sur l'IA

De même, une recherche Google poussée a généré 298 messages d'dentde chaînes TikTok présentant la même description. Il se trouve qu'il existe des similitudes dans leurs vies. C'est ainsi qu'ils ont commencé à analyser et à sélectionner une campagne au sein de la ferme artificielle TikTok russophone. Leur seul point de divergence réside dans le sujet abordé. 

Que vous recherchiez de la « propagande russe » ou des « théories du complot impérial », le choix est immense. Parallèlement, des recettes, des conseils de mécanique, des vidéos de passionnés de mécanique, des dessins animés pour enfants, des blogueurs, etc., parlent des cimetières russes ou de la découverte de trésors dans les déchets métalliques locaux. On ne pourrait les classer que dans la catégorie « stars hors ligne », car ce sont les seuls contenus que l'on rencontre réellement. Il convient de mentionner que l'activité médiatique a été restreinte en Russie de mars 2022 jusqu'à récemment. Par exemple, TikTok, l'un des réseaux les plus populaires, était considéré comme illégal.

L'absence d'informations concernant les auteurs des fermes de bots découvertes sur la chaîne laisse à penser qu'il s'agit d'un acte de piratage. Fin mai, les chiffres seront sans doute plus de 10 millions. Le nombre de « j'aime » et de vues sur la chaîne est déjà élevé depuis six mois. Or, plus on s'enfonce dans cet univers virtuel, plus les contenus faux et fictifs abondent. La Russie les utilisera dans sa guerre de l'information. Les bots et les fermes de bots russes reproduisent et diffusent généralement les messages populaires sur les réseaux sociaux, ce qui facilite leur détection par les algorithmes de ces plateformes.

L'utilisation de l'intelligence artificielle sur les plateformes sociales représentera un défi majeur. On verra apparaître le nom du mouvement de contestation, avec pour slogan « voler dans le vide d'Internet », affirmant qu'il n'y a plus de vraies personnes en ligne. Or, de nouvelles recherches montrent que l'année dernière, plus de 50 % du trafic en ligne était généré par des bots.