L’essor des chatbots IA malveillants : les acteurs malveillants adoptent les « Hackbots »

La vague de popularité de l'IA a balayé à la fois ceux qui ont de bonnes intentions et ceux dont les intentions pourraient être plus sinistres. Les spécialistes de la sécurité tirent la sonnette d'alarme, soulignant que l'utilisation de tels modèles, la génération de texte malveillant ou les « hackbots », est désormais populaire parmi les acteurs malveillants. Cela a atteint le niveau d'un service clé en main dans les services par abonnement.

Les cybercriminels exploitant les outils d’IA

D’un côté, les experts en cybersécurité ont rapidement pris conscience du potentiel des outils alimentés par l’IA pour mieux protéger leurs systèmes. Les acteurs malveillants ont également montré une égale ardeur à utiliser ces technologies pour profiter des failles de sécurité laissées par leurs victimes. Au cours des dernières années, il y a eu une augmentation exponentielle du nombre d’applications IA utilisées par les acteurs malveillants, ce qui a attiré l’attention des équipes de sécurité vers une approche suffisante pour réduire les menaces liées à l’IA.

D'un autre côté, les spécialistes britanniques de la cybersécurité ont également indiqué l'IA comme un nouveau risque émergent impliquant des eaux inexplorées et sa nature constamment changeante. L'NCSC prévoit que le premier trimestre de 2024 sera le plus important et aura battu les records de 2022 et 2023. Les criminels intelligents ont également utilisé des modèles de langage pour l'ingénierie sociale, ce qui a conduit à placer des célébrités dans des contextes vidéo ou audio à l'aide de schémas de phishing ou de dispositifs de reconnaissance vocale. Vascut Jakkal, le vice-président de la sécurité chez Microsoft Corporation, a assisté à la Conférence RSA 2024. Le problème n'est pas la détérioration de ces outils, mais leur disponibilité croissante pour le craquage de mots de passe, ce qui est lié à une augmentation de 10 fois des attaques liées à l'identité.

Certains experts ont également conclu que les chatbots utilisent une phrase unique pour développer activement des malwares. En effet, des services publics tels que ChatGPT et Gemini ont mis en place des garde-fous pour empêcher leur utilisation abusive à des fins malveillantes. Cependant, les pirates ont contourné de nombreuses protections grâce à des techniques sophistiquées d’ingénierie des prompts.

Hackbot-as-a-service : la tendance croissante dans la cybercriminalité

Selon des études récentes, les modèles de langage publiquement visibles échouent généralement à exploiter les faiblesses de sécurité des logiciels. Cependant, seul le GPT-4 d’OpenAI a montré des caractéristiques prometteuses, car il pouvait produire des exécutables pour des vulnérabilités connues. Les restrictions ci-dessus semblent avoir probablement favorisé la production de chatbots malveillants prototypes conçus pour aider les auteurs de cybercriminalité à mener à bien leurs activités malveillantes. 

Ils sont annoncés sur les forums et les places de marché du dark web, qui offrent la possibilité d’embaucher et d’exploiter les attaquants, alimentant un modèle de hackbot-as-a-service. L’un des derniers articles de blog publiés par l’équipe Trustwave SpiderLabs en août 2023 illustre le volume croissant de modèles de langage malveillants hébergés sur plusieurs forums de messagerie web cachés à des fins lucratives.

Trustwave a publié le modèle WormGPT en juin 2021, l’un des modèles de langage malveillants connus des pirates. Cette approche peut se produire dans des équipements où des bots injectent des cyberattaques via des structures de piratage hébergées sur le dark web. Généré en juillet 2023, FraudGPT a été identifié pour la première fois par les chercheurs en menaces de Netenrich avant d’atteindre Telegram.

Ces outils permettent aux attaquants de concevoir des éléments utilisés dans les attaques d’ingénierie sociale, telles que les e-mails de phishing, les deepfakes et le clonage vocal. Cependant, leurs créateurs affirment que leur véritable valeur réside dans l’exploitation des vulnérabilités. Ils permettent aux pirates d’alimenter ces modèles malveillants avec du code concernant des vulnérabilités spécifiques, ce qui pourrait théoriquement produire plusieurs exploits de preuve de concept (PoC) qu’un attaquant pourrait essayer.

Ces produits sont vendus sur les marchés souterrains du dark web, où les pirates paient des frais de licence mensuels pour utiliser le hackbot, tout comme les rançongiciels sont livrés dans le modèle de rançongiciel-as-a-service (RaaS), qui est directement connecté à un complexe de rançongiciels auquel de nombreuses entreprises sont confrontées aujourd’hui.

Bien que WormGPT soit le premier modèle de langage malveillant à grande échelle introduit, d’autres modèles de langage malveillants et non éthiques comme BlackHatGPT, XXXGPT et WolfGPT ont rapidement suivi, formant un nouveau segment de marché du marché noir cybernétique.

L’efficacité des Hackbots : Hype ou menace réelle ?

Contrairement aux recherches menées par Trustwave, qui visaient à tester l’efficacité des outils recommandés en comparant leurs sorties côte à côte avec celles générées par des chatbots légitimes, les résultats ont indiqué que ChatGPT pouvait être efficacement amené à créer certains malwares Python avec les bons prompts. Pour ce faire, le message devait être envoyé en affirmant que le code était « white hat » avant le déploiement, et la sortie du code nécessitait également des modifications supplémentaires.

ChatGPT peut être capable de passer de vrais messages texte pour des attaques de phishing, mais la commande d’instruction doit être très spécifique à cet effet. ChatGPT ne s’en basera généralement que lorsque les utilisateurs demandent quelque chose de mal. En raison de ce fait, ces chatbots peuvent être considérés comme une méthode plus simple pour les cybercriminels ou l’IA d’attaquer les utilisateurs au lieu de travailler fastidieusement pour créer une page ou un malware.

Bien que cette industrie soit nouvelle et que les menaces soient encore en mutation, les entreprises doivent être pleinement conscientes de leurs niveaux de protection actuels. Le contenu et les caractéristiques culturelles avec lesquels les systèmes IA sont inondés peuvent être abusés pour créer un fossé de désinformation qui ne peut être comblé qu’en créant des programmes de sécurité IA plus solides et des outils de gestion de l’identité.

La légitimité des solutions au problème croissant est toujours débattue. Pourtant, les dernières souches de rançongiciels ont montré que les cybercriminels peuvent égaler, voire dépasser, la vitesse de développement des développeurs de logiciels.