L'IA générative en cybersécurité : une arme à double tranchant

Dans la cybersécurité, l'adoption de l'intelligence artificielle générative (IA) est devenue un outil pivot pour les praticiens dans leur lutte continue contre les cybermenaces. Bien que cette technologie innovante offre des avantages marqués, elle présente également de nouveaux défis à mesure que les acteurs malveillants exploitent de plus en plus sa puissance pour améliorer leurs attaques.

Rob Joyce, directeur de la cybersécurité à l'Agence de sécurité nationale (NSA), a récemment souligné les avantages significatifs que l'IA générative apporte pour identifier et contrer les activités malveillantes. Cependant, il a également reconnu les préoccupations croissantes concernant son utilisation abusive par les cybercriminels.

Une force pour le bien : renforcer la cybersécurité

Lors d'un événement organisé à l'Université Fordham à New York, Rob Joyce a parlé avec enthousiasme de l'impact positif de l'IA générative dans le renforcement des efforts de cybersécurité. Il a déclaré que l'IA générative « nous rend meilleurs pour trouver des activités malveillantes ». Cette technologie donne aux professionnels de la sécurité des outils et des méthodologies innovants pour détecter et atténuer les cybermenaces plus efficacement.

L'un des principaux avantages de l'IA générative en cybersécurité est sa capacité à combattre les acteurs de la menace qui se cachent sur les réseaux, se déguisant en comptes sûrs grâce à l'exploitation de vulnérabilités. Ces comptes déguisés présentent des schémas de comportement anormaux, qui peuvent être difficiles à identifier manuellement. L'IA générative, ainsi que les grands modèles de langage (LLM), aident les équipes de cybersécurité à agréger et analyser cette activité suspecte, révélant ainsi plus rapidement les intentions malveillantes.

Une préoccupation croissante : l'utilisation abusive par les cybercriminels

Bien que l'IA générative promette d'améliorer la cybersécurité, elle a également suscité des alarmes en raison de son utilisation abusive par les cybercriminels. Au cours de l'année dernière, les acteurs malveillants ont de plus en plus utilisé des outils d'IA générative pour amplifier les activités frauduleuses et les arnaques. Ces technologies avancées leur permettent de lancer des attaques d'ingénierie sociale hautement personnalisées et puissantes.

Mandiant, une renommée firme de cybersécurité, a émis un avertissement l'année précédente, soulignant que l'IA générative pourrait permettre aux acteurs de la menace de déchaîner une nouvelle vague d'attaques d'ingénierie sociale d'une sophistication sans précédent. 

Ces attaques de phishing soutenues par l'IA pourraient être finement ajustées pour tromper même les utilisateurs les plus vigilants, posant une menace substantielle pour les individus et les organisations. Ces préoccupations ont été relayées par divers experts en sécurité tout au long de 2023.

De plus, des recherches menées par Darktrace ont suscité des inquiétudes concernant les attaques de phishing pilotées par l'IA. La crainte est que les pirates puissent continuellement exploiter l'IA générative IA pour affiner leurs techniques, rendant de plus en plus difficile pour les utilisateurs de distinguer une communication légitime d'une intention malveillante.

Une arme à double tranchant : peser l'impact

Rob Joyce a reconnu que les préoccupations concernant l'utilisation abusive de l'IA générative dans la cybercriminalité sont fondées. Cependant, il a également souligné les progrès significatifs réalisés par les organismes de sécurité nationale dans l'utilisation efficace de ces outils. Il a noté que les experts en cybersécurité exploitent l'IA générative pour combattre les menaces et protéger les actifs critiques autant que les acteurs malveillants l'exploitent à des fins néfastes.

Joyce a mis en garde contre la vision de l'IA générative comme une panacée pour tous les défis de cybersécurité, déclarant qu'« elle n'est pas l'outil super qui peut rendre compétent quelqu'un qui est incompétent ». Néanmoins, il a souligné qu'elle améliore les capacités de ceux qui l'utilisent, les rendant plus efficaces et potentiellement plus dangereux dans la défense et l'offensive cyber.