Les Malwares Améliorés par l'IA Posent une Menace Croissante, Avertit le NCSC du Royaume-Uni

Le Centre national de cybersécurité du Royaume-Uni (NCSC) a émis un avertissement concernant le potentiel des malwares alimentés par l'IA à devenir une menace importante d'ici 2025. Dans un rapport récent, le NCSC, une agence sous le Government Communications Headquarters (GCHQ), a déclaré qu'il existe une « possibilité réaliste » que des acteurs étatiques hautement capables utilisent l'IA pour générer des malwares qui contournent les filtres de sécurité actuels. Ce développement pourrait inaugurer une nouvelle ère de cybermenaces, affectant tout, de la découverte de dispositifs vulnérables à l'analyse de données, en passant même par les attaques d'ingénierie sociale.

Les malwares générés par l'IA à l'horizon

Le rapport du NCSC met en évidence que l'IA a le potentiel de produire des malwares qui peuvent contourner les mesures de sécurité existantes, mais cela nécessite des données d'exploitation de haute qualité pour l'entraînement. L'agence estime que certaines entités étatiques hautement capables peuvent posséder des dépôts de malwares suffisamment vastes pour entraîner efficacement des modèles d'IA à cette fin. Bien que les cyberattaques les plus avancées alimentées par l'IA devraient émerger en 2026 ou plus tard, les premiers adoptants d'outils d'IA générative seront probablement les attaquants les plus capables.

L'impact de l'IA sur les dispositifs vulnérables et l'analyse de données

Le NCSC prédit que l'IA facilitera la découverte de dispositifs vulnérables par les attaquants, réduisant le temps disponible pour les défenseurs pour les corriger avant l'exploitation. De plus, l'IA améliorera l'analyse de données en temps réel, permettant aux attaquants d'identifier rapidement des fichiers précieux, augmentant ainsi l'efficacité des efforts de perturbation, d'extorsion et d'espionnage.

Le rapport note que l'expertise, l'équipement, les ressources financières et l'accès à des données de qualité sont essentiels pour exploiter l'IA avancée dans les opérations cyber. Les acteurs étatiques hautement capables sont les mieux placés pour tirer parti du potentiel de l'IA dans les cyberattaques sophistiquées. Cependant, même les attaquants avec des compétences et des ressources limitées devraient bénéficier des avancées de l'IA au cours des quatre prochaines années.

L'IA au service des cybercriminels

À l'extrémité inférieure du spectre, les cybercriminels recourant à l'ingénierie sociale sont susceptibles d'exploiter des outils d'IA générative grand public, tels que ChatGPT, Google Bard et Microsoft Copilot. Cela pourrait se traduire par des tentatives de hameçonnage plus convaincantes et localisées. De plus, les gangs de rançongiciels pourraient utiliser l'IA pour l'analyse de données, permettant des tentatives d'extorsion de données plus efficaces en identifiant plus facilement les données précieuses.

Défis pour les praticiens de la cybersécurité

Le NCSC prévoit que les cyberattaques alimentées par l'IA augmenteront en volume et en impact au cours des deux prochaines années, intensifiant les défis auxquels sont confrontés les praticiens de la cybersécurité. Ces professionnels font déjà face à des menaces évolutives, et l'IA est censée jouer un rôle majeur dans la configuration du paysage des menaces.

Le NCSC surveille de près le développement de l'IA dans les cybermenaces. La conférence annuelle CYBERUK du NCSC, qui se tiendra en mai, se concentrera sur la menace considérable que représente la technologie émergente pour la sécurité nationale. Le directeur général sortant, Lindy Cameron, a souligné la nécessité de gérer les risques de l'IA tout en exploitant son potentiel pour un développement responsable.

Efforts mondiaux pour adresser les risques de sécurité liés à l'IA

L'avertissement du NCSC fait suite au premier Sommet sur la sécurité de l'IA tenu au Royaume-Uni, qui a conduit à la Déclaration de Bletchley, une initiative mondiale visant à gérer les risques de l'IA. Dans le cadre de cet effort, les principaux développeurs d'IA se sont engagés à partager leur code avec les gouvernements afin d'assurer un développement responsable de l'IA.

Bien que le plan de test de l'IA soit un pas dans la bonne direction, il n'est pas juridiquement contraignant et manque le soutien de certaines nations. Cela soulève des questions sur son efficacité à faire face à la menace croissante des cyberattaques alimentées par l'IA.

L'avertissement du NCSC souligne l'évolution du paysage des menaces dans le cyberespace, où les logiciels malveillants améliorés par l'IA sont à l'horizon. Avec le potentiel de contourner les mesures de sécurité actuelles, l'IA pose des défis aux praticiens de la cybersécurité, aux gouvernements et aux organisations. Alors que le monde s'efforce de comprendre les implications de l'IA dans les cybermenaces, la vigilance et la coopération internationale seront essentielles pour rester en avance sur les menaces émergentes.