L’étude d’IBM met en garde contre le potentiel de l’IA dans la cybercriminalité

Dans une étude récente menée par l’équipe X-Force de Security Intelligence d’IBM, le rôle émergent de l’intelligence artificielle (IA) dans la cybercriminalité a été examiné. La recherche met en évidence la préoccupation croissante selon laquelle les pirates pourraient bientôt exploiter des outils d’IA, tels que ChatGPT, pour améliorer leurs campagnes malveillantes, augmentant considérablement la sophistication des cyberattaques.

L’expérience de l’équipe X-Force a opposé des emails de phishing écrits par des humains à ceux générés par ChatGPT. L’objectif était de mesurer les taux de clic de ces emails, tant pour les messages eux-mêmes que pour les liens malveillants qu’ils contenaient. Étonnamment, le contenu écrit par des humains a remporté la victoire, mais de justesse. Ce résultat suggère que la domination de l’IA en matière de crédibilité et d’authenticité n’est peut-être qu’une question de temps, posant un nouveau défi pour les experts en cybersécurité.

Bien que l’IA présente des capacités remarquables, l’étude a révélé que les humains possèdent un avantage distinct dans des domaines tels que l’intelligence émotionnelle, la personnalisation et la compréhension de la psychologie des victimes potentielles. Selon les chercheurs, « Les humains comprennent les émotions d’une manière dont l’IA ne peut que rêver. » Les emails de phishing générés par des humains peuvent créer des récits qui résonnent émotionnellement et semblent plus réalistes, augmentant la probabilité que les destinataires cliquent sur des liens malveillants.

Les attaquants humains excellent dans la personnalisation, en faisant référence à des organisations légitimes et en offrant des avantages tangibles à la main-d’œuvre, rendant leurs emails plus attrayants pour les destinataires. De plus, les humains sont habiles à éviter les soupçons en utilisant des objets concis, contrairement aux phishings générés par l’IA, qui ont tendance à utiliser des objets longs qui pourraient soulever des alarmes même avant l’ouverture d’un email.

L’étude de l’équipe X-Force met en évidence les forces et les faiblesses inhérentes de l’IA par rapport aux pirates humains. Bien que l’IA puisse générer du contenu de phishing rapidement, elle est insuffisante en termes d’appel émotionnel, de personnalisation et d’évitement des soupçons.

L’efficacité de l’IA et les menaces émergentes

L’une des conclusions notables de l’étude est l’efficacité de l’IA dans la génération de contenu de phishing. L’équipe X-Force a démontré qu’elle pouvait utiliser un modèle d’IA générative pour composer un email de phishing convaincant en seulement cinq minutes, basé sur cinq invites. En revanche, la création manuelle d’un tel email nécessiterait environ 16 heures d’effort humain. Cette efficacité suggère que l’IA a le potentiel de réduire considérablement le temps et les efforts requis par les cybercriminels pour lancer des campagnes de phishing à grande échelle.

L’étude a également révélé la présence de modèles d’IA générative, tels que WormGPT, sur divers forums, annoncés à la vente avec des capacités de phishing. Cela suggère que les cybercriminels explorent activement le potentiel d’utilisation de l’IA dans les campagnes de phishing. Bien que les campagnes actuelles n’aient pas largement adopté l’IA générative, il y a une préoccupation croissante que les grands modèles de langage (LLM) non restreints ou semi-restrints puissent fournir aux attaquants des outils plus efficaces pour créer des emails de phishing sophistiqués à l’avenir.

Les implications du rôle de l'IA dans la cybercriminalité sont vastes et posent des défis significatifs aux experts en cybersécurité. À mesure que l'IA continue de progresser, les cybercriminels pourraient exploiter ses capacités pour créer des attaques de hameçonnage plus convaincantes et sophistiquées, augmentant potentiellement le taux de réussite de leurs campagnes.

L'impératif d'une adaptation continue de la cybersécurité

Ce paysage de menaces en évolution souligne la nécessité d'une adaptation et d'une innovation continues dans les stratégies de cybersécurité. Les organisations et les professionnels de la sécurité doivent rester vigilants et développer de nouvelles techniques et outils pour détecter et atténuer efficacement les cybermenaces alimentées par l'IA. Mettre l'accent sur la sensibilisation et la formation des employés afin de reconnaître les tentatives de hameçonnage, quelle que soit leur source, reste un composant crucial des défenses de cybersécurité.

Conclusion

L'étude de l'équipe Security Intelligence X-Force d'IBM éclaire la menace évolutive posée par l'intégration d'outils d'IA générative dans les activités des cybercriminels. Bien que les humains conservent un avantage en termes d'intelligence émotionnelle, de personnalisation et d'évitement des soupçons dans les campagnes de hameçonnage, l'efficacité de l'IA dans la génération de contenu malveillant est une source de préoccupation.

Alors que l’IA continue d’évoluer et de devenir plus accessible aux acteurs malveillants, les organisations et les professionnels de la cybersécurité doivent adapter proactivement leurs défenses pour contrer ces menaces émergentes. La bataille contre les cyberattaques alimentées par l’IA nécessite une approche multifacette, incluant des mécanismes de détection avancés, l’éducation des employés et une innovation continue dans le domaine de la cybersécurité. Dans ce paysage en évolution, rester une longueur d’avance sur les cybercriminels est impératif pour protéger les actifs numériques et se protéger contre les violations potentielles.