Des bots utilisant l'IA inondent les réseaux sociaux de désinformation

Presque chaque mois, l'Internet propose une nouvelle idée créative pour un schéma « s'enrichir rapidement » qui ne demande aucun effort. Beaucoup ont adopté les outils d'IA pour améliorer leur travail et obtenir de meilleurs rendements. Les chaînes d'information locales diffusent leurs présentateurs, et le ministère des Affaires étrangères construit une source numérique. Contrairement à la traduction et à la vérification grammaticale, qui sont typiques et attendues, l'IA devient un élément intégral de nos vies et est à peine associée à l'IA désormais.

Découvrir la ferme de bots alimentée par l'IA

Il existe une autre niche : la génération de matériel entièrement original à partir de zéro. Sa création ne nécessite que vingt minutes, voire aussi peu qu'une minute. Toute la plateforme d'IA est utilisée pour produire des vidéos (ou traiter des vidéos volées), rédiger des textes et des pistes audio, mettre en scène le tout, et ajouter des descriptions et des hashtags pour les publier sur le réseau social en quelques secondes seulement.

Ainsi, les réseaux sociaux deviennent progressivement de simples poubelles à déchets générés par l'IA, et ces instruments permettent aux gens de jouir de l'idée qu'ils ont créé une vidéo promotionnelle qui pourrait devenir populaire et générer des revenus. Ou ils diffusent des messages de propagande russe jusqu'à ce qu'ils deviennent la voix dominante sur la question.

Vous verrez comment l'IA contribue au message d'une ferme de faux comptes en prenant l'exemple d'une ferme de bots de 300 chaînes qui ont utilisé l'IA pour traiter et générer des vidéos à partir de chaînes YouTube russes ou biélorusses. Voici Anastasiia Kozhevnikova, une jeune fille locale de Marioupol qui est maintenant une YouTuber russe bien connue. Bien qu'elle ne compte que 190 000 abonnés sur sa chaîne YouTube, elle est un bon exemple de la manière dont une utilisation intelligente d'Internet peut donner une voix à un individu réprimé dans son pays natal. Elle jouit d'une bonne réputation en tant que diffuseuse des mythes de propagande russe de « la Russie en tant que Sauveur » et de la renaissance de Marioupol après la destruction.

Cependant, en quittant son profil, on est frappé par l'absence d'informations sur le sujet discuté. Elle explore qui elle est et parle de ce qu'ils vloguent toujours. Comment le spectateur sait-il qu'il existe d'autres réseaux similaires dans la communauté ? Et si c'était un lien vers la chaîne YouTube d'une star des réseaux sociaux ultra-populaire ? Des cartes avec les images de la mission de l'organisation sont tout à fait possibles. Peut-être même un nombre de cartes plus généreux. En revanche, il y a un bref manque d'expression savoureuse avec un appel à l'abonnement. Dans ce contexte, chaque chaîne peut être spécialisée. Cependant, j'ai découvert qu'une grande partie de ces chaînes les possèdent déjà.

La propagation insidieuse de la désinformation par l'IA

De même, une recherche sophistiquée sur Google a généré 298 messages d'identification de chaînes TikTok avec la même description. Il se trouve qu'il y a des similitudes dans leurs vies. C'est ainsi qu'ils ont commencé à scanner et à choisir une campagne au sein de la ferme TikTok artificielle de langue russe. La seule chose qui les différencie est le sujet sur lequel ils se concentrent. 

Que vous cherchiez « propagande russe » ou « théories du complot impérial », l'assortiment est énorme. En même temps, les recettes, les conseils pour mécaniciens, les vidéos d'amateurs de mécanique, les dessins animés pour enfants, les blogueurs, etc., parlent aux gens des cimetières en Russie ou leur font trouver des trésors dans les débris de ferraille locale. Ils ne pourraient être regroupés que dans la catégorie des « stars hors ligne » puisque ce sont les seuls cartons que nous rencontrons. Il convient de mentionner que l'activité médiatique a été restreinte en Russie de mars 2022 à récemment. Par exemple, TikTok, l'un des réseaux les plus populaires, était considéré comme illégal.

Aucune information sur les auteurs des fermes de stations découvertes suggère encore une fois que la piraterie a été rencontrée ici. D'ici la fin mai, vous aurez vu les chiffres, probablement plus de 10 millions. Les likes et encore plus de vues sur la chaîne existent déjà depuis six mois. Cependant, plus on s'avance dans ce monde virtuel fantaisiste, plus le contenu faux et inexistant sera abondant. Dans ce cas, la Russie l'utilisera dans sa guerre d'information. Les bots et les fermes de bots russes répliquent et digèrent les messages populaires sur les réseaux sociaux, ce qui les rend plus faciles à détecter par les algorithmes des réseaux sociaux.

L'utilisation des fonctionnalités d'IA pour les plateformes sociales représentera un défi plus grand. Elles mettront en avant le nom du contre-mouvement avec le mot d'ordre « voler dans l'espace mort d'Internet », qui affirme qu'il n'y a plus de vraies personnes en ligne aujourd'hui. De nouvelles recherches montrent qu'une grande partie du trafic en ligne de l'année dernière, plus de 50 %, était générée par des bots.