La technologie IA alimente une propagande sophistiquée par des groupes terroristes

Les partisans de l'État islamique, confrontés à d'importants revers militaires, utilisent de plus en plus l'intelligence artificielle (IA) pour générer une propagande en ligne sophistiquée. Les experts signalent que les partisans de l'EI ont pu produire une propagande élaborée, telle que des bulletins d'actualités créés par l'IA dans différentes langues, en utilisant cette technologie.

À lire également : Des bots utilisant l'IA inondent les réseaux sociaux de désinformation

Un exemple en est l'État islamique du Khorasan (ISKP), une branche de l'EI active en Afghanistan et au Pakistan. Après une attaque revendiquée par l'EI dans la province de Bamiyan le 17 mai, qui a fait quatre morts, dont trois touristes espagnols, l'ISKP a diffusé une vidéo d'un présentateur d'actualités IA. Le présentateur, parlant pachto, ressemblait aux habitants locaux et racontait l'attaque, montrant l'utilisation de l'IA par le groupe pour rendre le contenu plus crédible.

Les affiliés de l'EI déploient des présentateurs d'actualités générés par IA

Une autre vidéo produite par l'IA a été diffusée avec un présentateur masculin virtuel affirmant que l'EI était derrière une attaque à la voiture piégée à Kandahar, en Afghanistan. L'expert en cybersécurité Roland Abi Najem a souligné l'efficacité de ces vidéos deepfake alimentées par l'IA, ajoutant que l'EI utilise une production de qualité hollywoodienne depuis des années.

« L'IA dispose désormais d'outils faciles à utiliser pour créer du contenu falsifié, qu'il s'agisse de texte, de photo, d'audio ou de vidéo. Vous n'avez besoin que de données, d'algorithmes et de puissance de calcul, donc n'importe qui peut créer du contenu généré par l'IA depuis sa maison ou son garage. »

Roland Abi Najem

L'utilisation de l'IA par l'EI à des fins de propagande a été officiellement initiée quelques jours après un terrible acte de terrorisme à Moscou le 22 mars, où 145 personnes ont été tuées. Les experts ont souligné qu'un présentateur d'actualités IA a été utilisé pour rapporter cette attaque pour la première fois et que ce groupe a eu recours à la diffusion de fausses nouvelles via l'IA.

Expansion de l'influence extrémiste via le contenu IA

Mona Thakkar, chercheuse à l'International Center for the Study of Violent Extremism, a déclaré que les partisans de l'EI utilisent des techniques de génération de personnages.

« Ces efforts ont suscité des réponses positives d'autres utilisateurs, reflétant que, grâce à des efforts collaboratifs futurs, de nombreux partisans pourraient produire des vidéos de propagande IA de haute qualité et sophistiquées pour l'EI, de durée plus longue, avec de meilleures graphiques et des techniques d'innovation améliorées. »

À lire également : Quel est le combat contre les fausses nouvelles et l'IA lors de l'élection 2024 ?

Thakkar a également noté que les membres promouvant l'EI sur Telegram encouragent l'utilisation de bots générateurs d'images IA car ils produisent des images de haute qualité pour la chaîne, car ces bots sont efficaces et faciles à utiliser. Cette pratique est indicative de l'utilisation croissante de l'IA comme outil pour améliorer l'efficacité et la cohésion de l'extrémisme.

L'IA permet des opérations d'influence et de recrutement

Même si le groupe a perdu du terrain en Syrie et en Irak, il utilise toujours l'IA pour répandre son message de haine et présenter une façade de force. Comme l'a déclaré Najem, avec l'aide de l'IA, l'EI peut créer des vidéos deepfake pour influencer des célébrités et des influenceurs spécifiques, principalement la jeunesse, à rejoindre l'organisation.

À lire également : L'IA révolutionne les efforts de lutte contre le blanchiment d'argent et le contre-terrorisme

Le chercheur du Global Network on Extremism and Technology, Daniel Siegel, a expliqué que l'IA a changé la nature des opérations d'influence en ligne des groupes extrémistes.

« Le déploiement stratégique de nasheeds audio deepfake extrémistes, mettant en vedette des personnages animés et des personnalités d'Internet, marque une évolution sophistiquée dans les tactiques utilisées par les extrémistes pour élargir la portée de leur contenu. »

Siegel a également déclaré que d'autres organisations terroristes comme Al-Qaïda et le Hamas se sont également tournées vers l'IA pour produire du contenu pour leurs partisans. Alors que ces organisations radicales utilisent l'IA pour créer du contenu professionnel, traduit et convaincant, les autorités et les géants de la technologie doivent trouver des moyens de contrer ces menaces.

Reporting Cryptopolitan par Brenda Kanana