L’utilisation de l’IA comme arme est-elle la nouvelle norme dans la cyberguerre ? Perspectives de Microsoft et d’OpenAI

Dans une révélation majeure qui éclaire l'évolution du paysage de la cybersécurité, Microsoft et OpenAI ont mis au jour une tendance inquiétante : des États utilisent l'IA comme arme dans des cyberattaques. La collaboration entre ces géants de la technologie a révélé l'utilisation de grands modèles de langage (LLM) par d'importants acteurs malveillants liés aux grandes puissances mondiales, marquant ainsi une avancée significative dans le domaine de la cybersécurité.

Les APT étatiques utilisant OpenAI

L'analyse d'experts sur l'état actuel et les implications futures potentielles des cybermenaces liées à l'IA éclaire l'évolution du paysage de la cybersécurité. Ces acteurs malveillants, associés à la Chine, à l'Iran, à la Corée du Nord et à la Russie, exploitent l'IA à diverses fins, allant du recueil de renseignements aux attaques de phishing et à la génération de code. Des groupes notoires tels que Fancy Bear, Charcoal Typhoon et Crimson Sandstorm figurent parmi ceux qui utilisent la technologie OpenAI pour des activités malveillantes.

Fancy Bear, également connu sous le nom de Forest Blizzard, tristement célèbre pour son association avec la Direction principale de l'état-major général des forces armées de la Fédération de Russie (GRU), intègre des LLM dans des opérations pour des tâches de script, de collecte de renseignements et de recherche sur les protocoles de communication par satellite, particulièrement pertinents dans le conflit ukrainien.

Les groupes étatiques chinois Charcoal Typhoon et Salmon Typhoon font preuve d'une grande maîtrise des activités pilotées par l'IA, telles que la collecte d'informations, la génération de scripts et l'ingénierie sociale. De même, le groupe iranien Crimson Sandstorm utilise OpenAI pour développer des supports de phishing trompeurs et optimiser ses opérations grâce à des extraits de code générés par l'IA.

Emerald Sleet, attribué au régime de Kim Jong-un, effectue des tâches de programmation basiques et génère du contenu d'hameçonnage, tout en exploitant des modèles de langages de programmation (LLM) pour rechercher des vulnérabilités et collecter des renseignements liés à la défense. Ces exemples soulignent la diversité et l'évolution des applications de l'IA dans les cyberopérations menées par des acteurs étatiques malveillants.

L'IA comme arme – L'impact de l'IA en cybersécurité reste limité pour le moment

Malgré l'utilisation de l'IA par les acteurs malveillants, les experts soulignent que son impact dans les cyberattaques reste limité, servant principalement à renforcer les capacités existantes plutôt qu'à révolutionner les méthodes d'attaque. Cependant, des inquiétudes subsistent quant à l'évolutivité et à l'adaptabilité des attaques basées sur l'IA, ce qui incite à maintenir une vigilance constante et à respecter les bonnes pratiques en matière de cybersécurité.

Joseph Thacker, ingénieur principal en IA et chercheur en sécurité chez AppOmni, souligne que si l'IA offre des avantages aux attaquants, son potentiel de transformation reste encore largement inexploité. Il suggère que les acteurs malveillants maîtrisant le développement logiciel tirent parti des technologies de l'apprentissage automatique pour accélérer la création de code malveillant et ainsi accroître leur efficacité opérationnelle. Il insiste toutefois sur le fait que la nature fondamentale des cybermenaces n'a pas subi de changement significatif, l'IA facilitant principalement des améliorations progressives plutôt que des innovations de rupture dans les méthodes d'attaque.

Thacker souligne le potentiel d'expansion des attaques utilisant l'IA, facilité par la polyvalence des LLM en matière de traduction automatique et de conversion de code. Si les cyberopérations actuelles pilotées par l'IA ne présentent pas de techniques inédites, Thacker met en garde contre d'éventuelles avancées non détectées dans les vecteurs de menaces basés sur l'IA. C'est pourquoi il préconise une approche proactive de la cybersécurité, insistant sur l'importance d'une surveillance continue et de mesures de défense robustes pour atténuer l'évolution des menaces.

L'intégration de l'IA dans les cyberopérations étatiques présente à la fois des défis et des opportunités pour les acteurs de la cybersécurité. Si les observations actuelles suggèrent que les attaques optimisées par l'IA n'ont pas encore atteint leur plein potentiel, la nature dynamique de cette technologie exige une vigilance et une adaptation constantes. Face à l'évolution du paysage de la cybersécurité, une question demeure : comment les organisations peuvent-elles gérer efficacement l'intersection entre l'IA et la cyberguerre pour se prémunir contre les menaces émergentes ?