L'armement de l'IA est-il la nouvelle norme dans la guerre cybernétique ? Perspectives de Microsoft et OpenAI
- Les grandes puissances mondiales exploitent les grands modèles de langage (LLM) pour renforcer leurs capacités cybernétiques offensives, comme l’a révélé OpenAI et Microsoft.
- Cinq acteurs de la menace notoirement connus, liés à la Chine, à l’Iran, à la Corée du Nord et à la Russie, ont été identifiés comme exploitant les logiciels d’OpenAI à des fins malveillantes.
- Malgré ces inquiétudes, l’utilisation observée de la technologie LLM n’a pas encore entraîné d’attaques dévastatrices, mais les experts mettent en garde contre les menaces potentielles à venir et soulignent l’importance de rester vigilant.
Dans une révélation marquante éclairant l'évolution du paysage de la cybersécurité, Microsoft et OpenAI ont mis au jour une tendance préoccupante : les États-nations arment l'IA dans le cadre de cyberattaques. La collaboration entre ces géants de la technologie a exposé l'utilisation de grands modèles de langage (LLM) par des acteurs de menace de premier plan alignés sur les grandes puissances mondiales, marquant un développement significatif dans le domaine de la cybersécurité.
Les APT (Advanced Persistent Threats) d'État-nations utilisant OpenAI
Les analyses d'experts concernant l'état actuel et les implications futures potentielles des cybermenaces alimentées par l'IA éclairent l'évolution du paysage de la cybersécurité. Ces acteurs de menace, associés à la Chine, à l'Iran, à la Corée du Nord et à la Russie, exploitent l'IA à diverses fins, de la collecte de renseignements aux attaques de hameçonnage (phishing) et à la génération de code. Des groupes notables tels que Fancy Bear, Charcoal Typhoon et Crimson Sandstorm figurent parmi ceux utilisant la technologie OpenAI à des fins malveillantes.
Fancy Bear, également connu sous le nom de Forest Blizzard, notoire pour son association avec le Grand État-Major des Forces armées de la Fédération de Russie (GRU), intègre des LLM dans ses opérations pour des tâches de script, la collecte de renseignements et la recherche sur les protocoles de communication par satellite, particulièrement pertinente dans le conflit ukrainien.
Les acteurs étatiques chinois, Charcoal Typhoon et Salmon Typhoon, démontrent une maîtrise des activités alimentées par l'IA telles que la collecte d'informations, la génération de scripts et l'ingénierie sociale. De même, Crimson Sandstorm en Iran utilise OpenAI pour développer des supports de phishing trompeurs et rationaliser les opérations grâce à des extraits de code générés par l'IA.
Emerald Sleet, attribué au régime de Kim Jong-Un, s'engage dans des tâches de script basiques et la génération de contenu de phishing, tout en exploitant les LLM pour rechercher des vulnérabilités et collecter des renseignements liés à la défense. Ces exemples soulignent les applications diverses et évolutives de l'IA dans les opérations cybernétiques par les acteurs de menace étatiques.
Armer l'IA – L'impact de l'IA en cybersécurité reste limité pour l'instant
Malgré l'utilisation des LLM par les acteurs de menace, les experts soulignent que l'impact de l'IA dans les cyberattaques reste limité, servant principalement à améliorer les capacités existantes plutôt qu'à révolutionner les méthodes d'attaque. Cependant, des préoccupations subsistent concernant l'évolutivité et l'adaptabilité des attaques alimentées par l'IA, ce qui appelle à une vigilance continue et au respect des meilleures pratiques de cybersécurité.
Joseph Thacker, ingénieur principal en IA et chercheur en sécurité chez AppOmni, souligne que bien que l'IA offre des avantages aux attaquants, son potentiel transformateur n'a pas encore été pleinement réalisé. Thacker suggère que les acteurs de menace compétents en développement logiciel exploitent les LLM pour accélérer la création de code malveillant, améliorant ainsi leur efficacité opérationnelle. Cependant, il insiste sur le fait que la nature fondamentale des cybermenaces n'a pas subi de changement significatif, l'IA facilitant principalement des améliorations incrémentales plutôt que des innovations révolutionnaires dans les méthodologies d'attaque.
Thacker met en évidence le potentiel d'expansion de l'échelle et de la portée des attaques activées par l'IA, facilité par la polyvalence des LLM dans la traduction de langues et la conversion de code. Bien que les opérations cybernétiques actuelles alimentées par l'IA puissent ne pas présenter de techniques novatrices, Thacker met en garde contre la possibilité d'avancées indétectées dans les vecteurs de menace basés sur l'IA. À cet égard, il préconise une approche proactive de la cybersécurité, soulignant l'importance d'une surveillance continue et de mesures de défense robustes pour atténuer les menaces évolutives.
L'intégration de l'IA dans les opérations cybernétiques des États-nations présente à la fois des défis et des opportunités pour les acteurs de la cybersécurité. Bien que les observations actuelles indiquent que les attaques améliorées par l'IA n'ont pas encore atteint leur plein potentiel, la nature dynamique de la technologie impose une vigilance et une adaptation continues. À mesure que le paysage de la cybersécurité évolue, la question demeure : comment les organisations peuvent-elles efficacement naviguer à l'intersection de l'IA et de la guerre cybernétique pour se protéger contre les menaces émergentes ?
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
