Meta met en garde contre les menaces russes de l'IA à l'approche de l'élection présidentielle américaine

Meta, dans un récent rapport de sécurité, indique que la Russie utilise des outils d'intelligence artificielle générative (IA) pour des campagnes de tromperie en ligne concernant les élections américaines. Le géant de la technologie affirme que la plupart des efforts ont été infructueux, car il a déjoué les campagnes.

Selon Meta, les stratégies d'IA générative ont apporté une productivité et des gains minimaux. Cela est dû au fait que l'entreprise a pu détecter et réprimer les comportements inauthentiques coordonnés (CIB) sur sa plateforme.

Meta identifie la Russie comme la source principale des campagnes d'influence politique

Le Meta Adversarial Threat Report pour le T2 a identifié que la plupart des campagnes CIB sur ses plateformes, en particulier Facebook et Instagram, originaient de Russie. Depuis 2017, le pays est responsable de 39 opérations covertes, tandis que l'Iran et la Chine arrivent deuxième et troisième avec 30 et 11 opérations, respectivement.

Ces campagnes russes s'appuyaient fortement sur des faux comptes et des pages, avec une tactique centrale consistant à acquérir plusieurs comptes. En termes de contenu, ils semblent tous avoir propagé le même message depuis l'invasion de l'Ukraine par la Russie en 2022 – justifiant l'invasion.

Meta prévoit désormais que davantage de campagnes ciblant les utilisateurs américains apparaîtront dans les prochains mois à mesure que l'élection présidentielle de novembre approche. Les campagnes diffuseront probablement des messages anti-Ukraine et attaqueront les candidats soutenant l'Ukraine.

Il a déclaré :

« Entre maintenant et les élections américaines en novembre, nous nous attendons à ce que les opérations basées en Russie promeuvent des commentaires favorables à l'égard des candidats qui s'opposent à l'aide à l'Ukraine et critiquent ceux qui plaident pour l'aider à se défendre. »

Malgré la menace persistante et l'utilisation intensive de l'IA dans ces campagnes trompeuses, Meta a affirmé avoir développé un moyen très efficace de détecter et de prévenir de telles activités malveillantes. L'entreprise se concentre sur le schéma comportemental du compte plutôt que sur le contenu de la publication, ce qui lui permet de mieux détecter les actions automatisées.

L'histoire de l'ingérence électorale de la Russie

La proactivité de Meta dans la limitation des campagnes d'influence politique malveillantes n'est pas surprenante. L'entreprise a été vivement critiquée par les régulateurs pour avoir échoué à empêcher ou à supprimer de telles campagnes de sa plateforme. En mai de cette année, l'Union européenne a ouvert une enquête sur l'incapacité de Meta à se conformer à ses règles d'intégrité électorale.

Pendant ce temps, la Russie a une histoire de parrainage de campagnes d'influence contre les puissances mondiales rivales, en particulier pendant leurs élections. Le pays a été accusé d'influencer le résultat des élections américaines de 2016 par le biais de campagnes sur toutes les plateformes de réseaux sociaux, y compris des applications comme Tumblr et PayPal.

Une étude analysant des millions de publications sur les réseaux sociaux sur toutes les plateformes, y compris Google, a montré que le gouvernement russe, par l'intermédiaire de plusieurs opérateurs, a répandu de la désinformation sur le processus électoral américain pour le saper. Elle a identifié un groupe, l'Internet Research Agency (IRA), considéré par beaucoup comme une ferme de trolls russe, comme étant à la tête de la campagne.

Avec l'arrivée des technologies d'IA générative, qui facilitent la génération de toutes formes de contenu, des préoccupations ont émergé quant à leur utilisation très élevée pour les campagnes d'influence lors de cette élection. Jusqu'à présent, plusieurs experts en sécurité ont identifié quelques cas de leur utilisation. Cependant, même les candidats politiques se sont accusés mutuellement d'utiliser l'IA.