Rapport d'Europol : L'IA est devenue un outil clé pour les organisations criminelles européennes

Selon un rapport récemment publié conjointement par Europol, l’Institut interrégional de recherche des Nations Unies sur la criminalité et la justice (UNICRI) et Trend Micro, les criminels réussissent de mieux en mieux à commettre des escroqueries grâce à l’intelligence artificielle (IA). 

Le rapport révèle que les organisations criminelles utilisent des systèmes d'escroquerie et de paiement basés sur l'intelligence artificielle pour cibler leurs victimes. Les capacités de l'IA permettent à ces groupes criminels de développer rapidement leurs opérations à l'échelle mondiale, ce qui les rend plus difficiles à détecter.

L’accès à la technologie de l’IA leur permet de rédiger des messages en plusieurs langues et de créer des dupes très réalistes pour usurper l’identité d’individus et faire chanter des cibles dans le cadre d’opérations de cyberfraude mondiales, indique le rapport d’évaluation des menaces liées à la criminalité organisée grave en Europe.

Le rapport contenait également des informations sur les attaques existantes et potentielles exploitant l'IA, ainsi que des recommandations sur la manière d'atténuer ces risques.

Le rapport a mis en lumière le rôle de l'IA dans la déjouage des arnaques

L'attrait de l'IA réside dans l'efficacité accrue qu'elle offre grâce à l'automatisation et à l'autonomie. Ce rapport arrive à point nommé : face à l'inquiétude croissante du public quant aux risques d'utilisation abusive de l'IA, les autorités se doivent d'être transparentes sur les menaces, sans pour autant négliger les avantages potentiels de cette technologie.

Edvardas Šileris, directeur du Centre européen de lutte contre la cybercriminalité d'Europol, a déclaré : « Ce rapport nous permettra non seulement d'anticiper les utilisations malveillantes et les abus potentiels de l'IA, mais aussi de prévenir et d'atténuer ces menaces de manière proactive. C'est ainsi que nous pourrons exploiter le potentiel de l'IA et tirer profit de son utilisation positive. »

Le rapport conclut que les cybercriminels, s'ils ne le font pas déjà, finiront par exploiter l'IA à la fois comme vecteur d'attaque et comme surface d'attaque.

À l'heure actuelle, les deepfakes constituent l'utilisation la plus connue de l'IA comme vecteur d'attaque. Toutefois, selon le rapport, de nouvelles technologies de filtrage seront nécessaires à l'avenir pour atténuer les risques liés aux campagnes de désinformation et à l'extorsion, ainsi qu'aux menaces ciblant les ensembles de données d'IA.

L'IA pourrait être utilisée dans des cas tels que la création d'attaques d'ingénierie sociale convaincantes à grande échelle ; des logiciels malveillants de type « scraping » de documents pour rendre les attaques plus efficaces ; le contournement de la reconnaissance d'images et de la biométrie vocale ; les attaques de ransomware, le ciblage intelligent et l'évasion ; et la pollution des données endentles angles morts dans les règles de détection.

« Alors que les applications d'IA commencent à avoir un impact majeur dans le monde réel, il devient clair qu'il s'agira d'une technologie fondamentale pour notre avenir », a déclaré Irakli Beridze, directeur du Centre d'IA et de robotique de UNICRI.

Beridze a poursuivi en soulignant que « tout comme les avantages de l'IA pour la société sont bien réels, la menace d'une utilisation malveillante l'est tout autant »

« Nous sommes honorés de nous associer à Europol et Trend Micro pour mettre en lumière le côté obscur de l'IA et stimuler la discussion sur ce sujet important », a déclaré.

Le rapport contient également une mise en garde selon laquelle des systèmes d'IA capables d'améliorer l'efficacité des logiciels malveillants et de perturber les systèmes anti-malware et de reconnaissance faciale sont en cours de développement.

« Les cybercriminels ont toujours été parmi les premiers à adopter les technologies les plus récentes, et l'IA ne fait pas exception. Comme le révèle ce rapport, elle est déjà utilisée pour deviner les mots de passe, casser les CAPTCHA et cloner les voix, et de nombreuses autres innovations malveillantes sont en préparation », a déclaré Martin Roesler, responsable de la recherche prospective sur les menaces chez Trend Micro.

« Nous sommes fiers de nous associer à Europol et UNICRI pour sensibiliser le public à ces menaces et, ce faisant, contribuer à créer un avenir numérique plus sûr pour nous tous. »

Les trois organisations ont formulé deux recommandations en conclusion de leur rapport. L'une d'elles consistait à exploiter le potentiel de l'intelligence artificielle comme outil de lutte contre la criminalité afin de pérenniser le secteur de la cybersécurité et les services de police.

Un autre objectif était de poursuivre les recherches afin de stimuler le développement de technologies défensives et de promouvoir des cadres de conception d'IA sécurisés. Ils ont également insisté sur la nécessité d'apaiser les tensions politiques liées à l'utilisation de l'IA à des fins de cybersécurité et encouragé les partenariats public-privé pour mobiliser et créer des groupes d'experts multidisciplinaires.

Une nouvelle ère dans le crime organisé

Comme le souligne le rapport, le crime organisé a effectivement évolué pour intégrer l'utilisation de l'intelligence artificielle, tirant parti de ses capacités efficaces pour développer et mettre au point des escroqueries sophistiquées.

Selon un article publié sur X par une société de médias nommée Insight Crime, les autorités argentines ont récemment lancé un avertissement indiquant que les criminels « utilisent de plus en plus l'IA pour moderniser d'anciennes arnaques et piéger de nouvelles victimes ».

Outre les deepfakes, ces contenus audio, vidéo ou images d'un réalisme saisissant générés par l'apprentissage automatique et utilisés pour des escroqueries telles que l'usurpation d'identité, l'IA s'intègre de plus en plus aux crimes financiers. Elle contribue à automatiser les campagnes d'hameçonnage, à générer de faussesdentconvaincantes et à optimiser les logiciels malveillants pour exploiter les vulnérabilités des systèmes. Cette automatisation, atout majeur de l'IA dans le monde professionnel, permet également aux groupes criminels de toucher un plus grand nombre de victimes avec moins d'efforts.

En dehors de la fraude, l'IA a été utilisée pour faciliter d'autres opérations illégales, notamment le trafic de drogue, où elle peut aider à analyser les données sur les chaînes d'approvisionnement, les itinéraires de transport ou les pratiques des forces de l'ordre afin de minimiser les risques et de maximiser les profits.

Il y a aussi l'utilisation de chatbots alimentés par l'IA et de cryptomonnaies pour accélérer le blanchiment d'argent, permettant des transactions plus rapides et anonymisées, difficiles à trac.

Les outils d'accessibilité tels que les grands modèles de langage (par exemple, ChatGPT) et l'IA générative ont également abaissé la barrière technique, donnant même aux criminels les moins compétents la possibilité d'escroquer et de s'en tirer.

Le rapport d'Europol vise à informer le monde des récents développements concernant l'intersection entre l'IA et la criminalité. Il s'agit également d'un appel à l'action, assorti de recommandations pour combattre le mal par le mal ; car, après tout, l'humain ne peut rivaliser avec l'IA, mais nous pouvons créer une IA capable de lutter contre les applications malveillantes de cette technologie.