Le côté sombre de l’IA : comment ChatGPT et les outils d’IA générative alimentent les cyberattaques

Récemment, le monde de la technologie a été bouleversé par les capacités de ChatGPT, un chatbot basé sur l’IA développé par OpenAI. Cet outil polyvalent a reçu des éloges pour sa capacité à générer des textes persuasifs et même du code fonctionnel. Cependant, à mesure que la technologie évolue, les méthodes des acteurs malveillants évoluent également, et les prouesses de ChatGPT ne sont pas à l’abri d’une exploitation par les cybercriminels.

Les outils d’IA générative comme ChatGPT sont une arme à double tranchant. S’ils offrent aux utilisateurs des capacités impressionnantes, ils fournissent également aux acteurs malveillants un moyen puissant de créer des récits convaincants et du code, y compris pour des attaques d’ingénierie sociale. Cela soulève des inquiétudes quant à l’impact de cette nouvelle catégorie d’outils sur les cyberattaques, en particulier celles impliquant l’ingénierie sociale.

L’ère de l’ingénierie sociale sans faille

Par le passé, les e-mails mal formulés ou contenant des erreurs grammaticales étaient souvent des signes distinctifs des tentatives de hameçonnage. La formation à la sensibilisation à la cybersécurité mettait l’accent sur l’identification de telles anomalies pour contrer les menaces potentielles. Cependant, l’émergence de ChatGPT a changé la donne. Même les personnes ayant une maîtrise limitée de l’anglais peuvent désormais créer des messages parfaits et convaincants en anglais impeccable, rendant de plus en plus difficile la détection des tentatives d’ingénierie sociale.

OpenAI a mis en place certaines mesures de sécurité dans ChatGPT pour prévenir les abus, mais ces barrières ne sont pas insurmontables, en particulier à des fins d’ingénierie sociale. Les acteurs malveillants peuvent demander à ChatGPT de générer des e-mails d’arnaque, qui peuvent ensuite être envoyés avec des liens malveillants ou des demandes jointes. Le processus est remarquablement efficace, ChatGPT produisant rapidement des e-mails comme le ferait un professionnel, comme le démontre un e-mail exemple créé sur demande.

Les conclusions de Darktrace et la montée des attaques d’ingénierie sociale basées sur l’IA

L’entreprise de cybersécurité Darktrace signale une augmentation des attaques d’ingénierie sociale basées sur l’IA, attribuant cette tendance à ChatGPT et à des outils similaires. Ces attaques deviennent plus sophistiquées, les e-mails de hameçonnage devenant plus longs, mieux ponctués et plus convaincants. Le ton par défaut de ChatGPT imite la communication d’entreprise, rendant encore plus difficile la distinction entre les messages malveillants.

La courbe d’apprentissage des criminels

Les cybercriminels apprennent vite. Des rapports suggèrent que les forums du dark web accueillent désormais des discussions sur l’exploitation de ChatGPT pour l’ingénierie sociale, les criminels dans les pays non soutenus trouvant des moyens de contourner les restrictions et d’exploiter sa puissance. ChatGPT permet aux attaquants de générer de nombreux messages uniques, échappant ainsi aux filtres anti-spam qui recherchent du contenu répété. De plus, il aide à créer des logiciels malveillants polymorphes, rendant la détection plus difficile.

Bien que ChatGPT se concentre principalement sur la communication écrite, d’autres outils d’IA peuvent générer des paroles parlées réalistes qui imitent des individus spécifiques. Cette capacité de mimétisme vocal ouvre la porte à des appels téléphoniques imitant de manière convaincante des personnalités de haut niveau. Cette approche à deux volets – des e-mails crédibles suivis d’appels vocaux – ajoute une couche de tromperie aux attaques d’ingénierie sociale.

Exploitation des chercheurs d’emploi et faux outils ChatGPT

ChatGPT ne se limite pas à la rédaction d’e-mails ; il peut générer des lettres de motivation et des CV à grande échelle, exploitant les chercheurs d’emploi dans le cadre d’arnaques. De plus, les escrocs profitent de la mode ChatGPT en créant de faux sites web de chatbots qui prétendent être basés sur les modèles d’OpenAI. Ces sites visent en réalité à voler de l’argent et à collecter des données personnelles.

Se protéger contre les attaques activées par l’IA

À mesure que les attaques activées par l’IA deviennent plus courantes, les organisations doivent s’adapter à ce paysage de menaces en évolution :

1. Intégrez du contenu généré par l’IA dans les simulations de hameçonnage pour familiariser les employés avec les styles de communication générés par l’IA.

2. Intégrez la sensibilisation à l’IA générative dans les programmes de cybersécurité, en mettant en évidence la manière dont ChatGPT et des outils similaires peuvent être exploités.

3. Utilisez des outils de cybersécurité basés sur l’IA qui exploitent l’apprentissage automatique et le traitement du langage naturel pour détecter les menaces et signaler les communications suspectes pour examen humain.

4. Utilisez des outils basés sur ChatGPT pour identifier les e-mails écrits par l’IA générative, ajoutant une couche de sécurité supplémentaire.

5. Vérifiez toujours l’authenticité des expéditeurs dans les e-mails, les chats et les textos.

6. Maintenez une communication ouverte avec vos pairs de l’industrie et restez informé des nouvelles arnaques.

7. Adoptez une approche de « confiance zéro » en matière de cybersécurité, en supposant que les menaces peuvent provenir de sources internes et externes.

ChatGPT n’est que la partie émergée de l’iceberg, et des chatbots similaires avec le potentiel d’exploitation dans les attaques d’ingénierie sociale émergeront probablement bientôt. Bien que ces outils d’IA offrent des avantages significatifs, ils présentent également des risques substantiels. La vigilance, l’éducation et des mesures avancées de cybersécurité sont essentielles pour rester en avance dans la lutte continue contre les cybermenaces améliorées par l’IA.