L'IA dans la cybersécurité : Un mélange de résultats pour la détection des vulnérabilités

Dans un récent rapport publié par NCC Group, l'intersection de l'intelligence artificielle (IA) et de la cybersécurité a été examinée, mettant en lumière à la fois les promesses et les limites de l'IA générative dans le contexte de la détection des vulnérabilités du code. Le rapport, intitulé « Sécurité, confidentialité et invites : Résilience cybernétique à l'ère de l'intelligence artificielle », offre une analyse complète de divers cas d'utilisation de la cybersécurité par l'IA.

IA générative et vulnérabilités du code

La croissance explosive de la technologie d'IA générative à la fin de 2022 a suscité des discussions et des préoccupations concernant ses implications pour la cybersécurité. Un point focal de ce discours tourne autour des risques de sécurité potentiels posés par les chatbots d'IA générative. Ces risques vont de l'exposition involontaire d'informations commerciales sensibles à la possibilité pour des acteurs malveillants d'exploiter ces algorithmes auto-apprenants avancés pour renforcer leurs cyberattaques.

L'un des principaux domaines d'intérêt du rapport est la faisabilité d'utiliser des chatbots d'IA générative pour l'évaluation de la vulnérabilité du code. Ces systèmes IA , lorsqu'ils sont fournis avec du code source, peuvent-ils effectuer une forme interactive d'analyse statique et identifier avec précision les faiblesses de sécurité ? Les résultats du rapport indiquent un mélange de résultats. Bien que l'IA générative montre des promesses et des gains de productivité dans le développement de code et de logiciels, son efficacité dans la détection des vulnérabilités du code reste variable.

D'un autre côté, le rapport met en évidence une application prometteuse des modèles d'apprentissage automatique (ML) dans le domaine de la cybersécurité. Spécifiquement, les modèles ML peuvent être instrumentaux dans l'identification des nouvelles attaques zero-day, permettant une réponse automatisée pour protéger les utilisateurs contre les fichiers malveillants. Pour valider ce concept, NCC Group a parrainé un étudiant en master au Centre de formation doctorale en science intensive de données (CDT DIS) de l'University College London pour développer un modèle de classification pour identifier les logiciels malveillants.

Les résultats de cet effort sont convaincants. Le modèle de classification a atteint un taux de précision impressionnant de 98,9 %. Ce succès souligne le potentiel des modèles ML pour renforcer les défenses de cybersécurité en identifiant et atténuant rapidement les menaces émergentes.

Exploiter le renseignement sur les menaces avec l'IA

Un autre aspect critique exploré dans le rapport tourne autour de la renseignement sur les menaces, un composant pivot de la cybersécurité proactive. Le renseignement sur les menaces implique la surveillance continue de diverses sources de données en ligne, qui fournissent des informations précieuses sur les vulnérabilités nouvellement identifiées, les exploits en évolution et les tendances émergentes dans le comportement des attaquants. Ces données, souvent sous forme de texte non structuré provenant de forums, de médias sociaux et du web sombre, peuvent être une mine d'or d'informations.

Les modèles d'apprentissage automatique peuvent jouer un rôle vital dans le traitement de ces données, en extrayant les nuances clés de la cybersécurité et en identifiant les modèles et tendances dans les tactiques, techniques et procédures (TTP) des attaquants. Armés de ces informations, les défenseurs peuvent adopter une approche proactive et préventive pour mettre en œuvre des systèmes de surveillance ou de contrôle supplémentaires, surtout lorsque de nouvelles menaces posent un risque significatif pour leur entreprise ou leur paysage technologique.

Dans une ère marquée par une avancée technologique rapide, le rôle de l'IA dans la cybersécurité continue d'évoluer. Bien que les chatbots d'IA générative offrent des promesses dans certains aspects du développement de code, leur fiabilité dans la détection des vulnérabilités reste une question d'exploration en cours. D'un autre côté, les modèles ML démontrent un niveau élevé de potentiel dans l'identification et la lutte contre les nouvelles cybermenaces, ce qui en fait un atout précieux dans l'arsenal du défenseur.

Il est crucial de reconnaître que l'IA dans la cybersécurité n'est pas une solution unique. Plutôt, elle complète l'expertise et la vigilance humaines. Le partenariat entre les professionnels de la cybersécurité humains et les systèmes d'IA est essentiel pour trouver un équilibre entre l'exploitation de la puissance de l'automatisation et le maintien de la supervision humaine critique nécessaire pour naviguer dans le paysage de menaces en constante évolution.