L'intelligence artificielle alimente une propagande sophistiquée de la part des groupes terroristes

Face à d'importants revers militaires, les partisans de l'État islamique utilisent de plus en plus l'intelligence artificielle (IA) pour produire une propagande en ligne sophistiquée. Selon des experts , ils sont désormais capables de fabriquer des supports de propagande élaborés, tels que des bulletins d'information rédigés par l'IA et diffusés en plusieurs langues.

À lire également : Des bots utilisant l’IA inondent les réseaux sociaux de désinformation

L'exemple de l'État islamique Khorasan (EI-K), branche de l'EI active en Afghanistan et au Pakistan, est éloquent. Après un attentat revendiqué par l'EI dans la province de Bamiyan le 17 mai, qui a coûté la vie à quatre personnes, dont trois touristes espagnols, l'EI-K a diffusé une vidéo mettant en scène un présentateur d'information virtuel, doté d'une intelligence artificielle. Ce présentateur, s'exprimant en pachto, ressemblait à un habitant de la région et relatait l'attaque, démontrant ainsi le recours à l'IA par le groupe pour rendre son contenu plus crédible.

Les filiales d'IS déploient des présentateurs d'actualités générés par l'IA

Une autre vidéo générée par intelligence artificielle a été diffusée, mettant en scène un présentateur virtuel affirmant que l'État islamique était responsable d'un attentat à la voiture piégée à Kandahar, en Afghanistan. L'expert en cybersécurité Roland Abi Najem a souligné l'efficacité de ces vidéos truquées générées par l'IA, ajoutant que l'État islamique utilise depuis des années des techniques de production dignes d'Hollywood.

« L’IA dispose désormais d’outils faciles à utiliser pour créer du contenu falsifié, qu’il s’agisse de texte, de photos, d’audio ou de vidéo ; il suffit de données, d’algorithmes et de puissance de calcul. N’importe qui peut donc créer du contenu généré par l’IA depuis chez soi ou son garage. »

Roland Abi Najem

L'utilisation de l'IA à des fins de propagande par l'État islamique a été officiellement lancée quelques jours après l'attentat terroriste perpétré à Moscou le 22 mars, qui a fait 145 victimes. Les experts ont souligné que, pour la première fois, un présentateur d'information virtuel avait été utilisé pour couvrir cette attaque et que le groupe avait eu recours à la diffusion de fausses informations via l'IA.

Expansion de l'influence extrémiste via le contenu de l'IA

Mona Thakkar, chercheuse au Centre international d'étude de l'extrémisme violent, a déclaré que les partisans de l'EI utilisent des techniques de manipulation psychologique.

« Ces efforts ont suscité des réactions positives de la part d'autres utilisateurs, ce qui montre que, grâce à de futurs efforts de collaboration, de nombreux partisans pourraient produire des vidéos de propagande de haute qualité et sophistiquées pour l'EI, alimentées par l'IA, d'une durée plus longue, avec de meilleurs graphismes et des techniques plus innovantes. »

À lire également : Quel est l’enjeu de la bataille entre les fausses informations et l’IA lors des élections de 2024 ?

Thakkar a également constaté que les membres promouvant l'EI sur Telegram encouragent l'utilisation de bots générateurs d'images par IA, car ces bots produisent des images de haute qualité pour la chaîne, étant efficaces et faciles à utiliser. Cette pratique témoigne du recours croissant à l'IA comme outil pour renforcer l'efficacité et la cohésion de l'extrémisme.

L'IA permet d'influencer les opérations et le recrutement

Bien que le groupe ait considérablement perdu du terrain en Syrie et en Irak, il continue d'utiliser l'IA pour diffuser son message de haine et afficher une façade de force. Comme l'a indiqué Najem, grâce à l'IA, l'EI peut créer des vidéos truquées (deepfakes) afin d'influencer certaines célébrités et personnalités influentes, principalement des jeunes, et les inciter à rejoindre l'organisation.

À lire également : L’IA révolutionne la lutte contre le blanchiment d’argent et le terrorisme

Daniel Siegel, chercheur au sein du Réseau mondial sur l'extrémisme et la technologie, a expliqué que l'IA a changé la nature des opérations d'influence en ligne des groupes extrémistes.

« Le déploiement stratégique de chants religieux extrémistes (nasheeds) truqués audio, mettant en scène des personnages animés et des personnalités d'Internet, marque une évolution sophistiquée dans les tactiques utilisées par les extrémistes pour élargir la portée de leur contenu. »

Siegel a également indiqué que d'autres organisations terroristes, comme Al-Qaïda et le Hamas, ont aussi recours à l'IA pour produire du contenu destiné à leurs adeptes. Si ces organisations radicales utilisent l'IA pour créer du contenu convaincant, traduit et d'apparence professionnelle, les autorités et les géants de la technologie doivent trouver des moyens de contrer ces menaces.

Cryptopolitan Reportage Brenda Kanana