Les cybercriminels exploitent les technologies IA et ML à des fins malveillantes

Un nouveau document de recherche produit conjointement par Trend Micro, l’Institut de recherche criminologique et de justice interrégional des Nations Unies (UNICRI) et Europol révèle comment les cybercriminels exploitent les technologies d’intelligence artificielle (IA) et d’apprentissage automatique (ML) à des fins malveillantes.

L’IA et le ML dans les affaires

L’IA et le ML alimentent rapidement le développement d’un monde plus dynamique. Ces technologies promettent une efficacité accrue, des niveaux plus élevés d’automatisation et d’autonomie. L’IA est une technologie à double usage au cœur de la quatrième révolution industrielle. Avec le ML, un sous-domaine de l’IA qui analyse de grands volumes de données pour trouver des motifs via des algorithmes, les entreprises, les organisations et les gouvernements peuvent accomplir des prouesses impressionnantes qui stimulent l’innovation et améliorent les affaires. 37 % des entreprises et organisations avaient déjà intégré l’IA dans leurs systèmes et processus d’ici 2020. Les outils alimentés par l’IA et le ML permettent aux entreprises de mieux prédire les comportements d’achat des clients, contribuant ainsi à augmenter les revenus. Certaines entreprises, comme Amazon, ont construit des entreprises très rentables avec l’aide d’outils alimentés par le ML et l’IA.

Mauvaises utilisations et abus de l’IA et du ML

Bien que l’IA et le ML puissent soutenir les entreprises et aider à résoudre certains des plus grands défis de la société, ces technologies peuvent également permettre une large gamme de menaces numériques, physiques et politiques. Les caractéristiques qui rendent les systèmes d’IA et de ML intégraux pour les entreprises sont les mêmes caractéristiques que les cybercriminels détournent et abusent pour un gain illicite.

*Deepfakes* : L’une des utilisations abusives populaires de l’IA est les deepfakes, qui impliquent l’utilisation de techniques d’IA pour créer ou manipuler du contenu audio et visuel pour paraître authentique. Les deepfakes sont adaptés aux campagnes de désinformation car ils sont difficiles à différencier du contenu légitime. Les deepfakes ont le potentiel de déformer la réalité à des fins néfastes, comme en témoigne une vidéo deepfake présumée qui a déstabilisé un gouvernement de coalition en Malaisie et un audio deepfake qui a dupé une entreprise énergétique basée au Royaume-Uni pour transférer près de 200 000 livres sterling sur un compte bancaire hongrois.

*Devinettes de mots de passe soutenues par l’IA* : Les cybercriminels emploient le ML pour améliorer les algorithmes de devinette des mots de passe des utilisateurs. Avec les réseaux neuronaux et les Réseaux Antagonistes Génératifs (GAN), les cybercriminels peuvent analyser d’immenses ensembles de données de mots de passe et générer des variations de mots de passe qui correspondent à la distribution statistique, conduisant à des devinettes de mots de passe plus précises et ciblées.

*Imitation humaine sur les plateformes de réseaux sociaux* : Les cybercriminels abusent de l’IA pour imiter le comportement humain sur les plateformes de médias sociaux. Par exemple, les bots soutenus par l’IA sur Spotify peuvent imiter des modèles d’utilisation semblables à ceux des humains pour tromper les systèmes de détection de bots et générer des flux et du trafic frauduleux pour des artistes spécifiques.

*Piratage soutenu par l’IA* : Les cybercriminels armementisent les frameworks d’IA pour pirater des hôtes vulnérables. Par exemple, DeepExploit, un outil de test de pénétration activé par le ML, et PWnagotchi 1.0.0, développé pour le piratage Wi-Fi par des attaques de désauthentification, utilisent des modèles de réseaux neuronaux pour améliorer les performances de piratage.

Futures mauvaises utilisations et abus de l’IA et du ML

À l’avenir, on s’attend à ce que les criminels exploitent l’IA pour améliorer la portée et l’échelle de leurs attaques, échapper à la détection et abuser de l’IA à la fois comme vecteur d’attaque et comme surface d’attaque. L’IA peut automatiser les premières étapes d’une attaque par génération de contenu, améliorer la collecte de renseignements commerciaux et accélérer le taux de détection auquel les victimes potentielles et les processus commerciaux sont compromis. L’IA peut également être détournée pour manipuler les pratiques de trading de cryptomonnaies et nuire ou infliger des dommages physiques à des individus, comme observé avec des drones de reconnaissance faciale alimentés par l’IA transportant des explosifs.

Les technologies IA et ML ont de nombreux cas d’utilisation positifs mais sont également détournées à des fins criminelles et malveillantes. Comprendre les capacités, les scénarios et les vecteurs d’attaque qui démontrent comment ces technologies sont exploitées pour protéger les systèmes, les appareils et le grand public contre les attaques et abus avancés est essentiel.

À propos de la recherche

Le document de recherche, intitulé « Usages et abus malveillants de l’intelligence artificielle », est un effort conjoint entre Trend Micro, l’Institut de recherche criminologique et de justice interrégional des Nations Unies (UNICRI) et Europol. Il discute des usages et abus malveillants actuels des technologies IA et ML et des scénarios plausibles futurs dans lesquels les cybercriminels pourraient abuser de ces technologies pour un gain illicite.

Les technologies de l'IA et du ML présentent de nombreux cas d'utilisation positifs, notamment la perception visuelle, la reconnaissance vocale, la traduction de langues, l'extraction de motifs et les fonctions de prise de décision dans divers domaines et secteurs industriels. Cependant, ces technologies sont également détournées à des fins criminelles et malveillantes. Il est essentiel de comprendre les capacités, les scénarios et les vecteurs d'attaque qui montrent comment ces technologies sont exploitées, afin de protéger les systèmes, les appareils et le grand public contre les attaques et les abus avancés.