L'IA rend les cyberarnaques plus crédibles et plus difficiles à détecter que jamais
- La moitié aux trois quarts des messages de phishing et de spam proviennent désormais de systèmes d'IA qui génèrent des attaques plus convaincantes et personnalisées à une échelle massive.
- Les marchés du dark web vendent des outils de piratage alimentés par l'IA avec des abonnements et un support client, permettant à quiconque de lancer des attaques sans compétences techniques.
- L'IA automatise ce qui nécessitait auparavant des pirates qualifiés, permettant aux réseaux criminels d'opérer plus rapidement, avec moins de personnes et des profits plus élevés.
Les cybercriminels utilisent l'intelligence artificielle pour mettre en œuvre des schémas de plus en plus élaborés. Ils ciblent tout, de l'épargne-retraite aux secrets d'entreprise, avec des méthodes de plus en plus difficiles à repérer.
La même technologie qui personnalise les publicités pour les acheteurs en ligne est désormais utilisée par des acteurs malveillants pour recueillir des informations personnelles et lancer des arnaques personnalisées très rapidement. Très rapidement.
Les grandes entreprises d'IA, comme Anthropic, OpenAI et Google, signalent que les criminels exploitent leurs plateformes pour orchestrer des opérations de phishing complexes, développer des logiciels malveillants et exécuter diverses attaques numériques. Les spécialistes de la sécurité avertissent que les criminels produisent également de faux clips audio et vidéo de dirigeants d'entreprise pour tromper les employés et les inciter à divulguer des informations sensibles.
Les entreprises et les administrations publiques pourraient bientôt faire face à des essaims de systèmes alimentés par l'IA capables de repérer les faiblesses des réseaux informatiques, puis de planifier et de mener des attaques avec presque aucune intervention humaine.
La technologie change la façon dont les criminels opèrent en ligne. Alice Marwick dirige les recherches chez Data & Society, une organisation indépendante de recherche technologique. Elle a déclaré au Wall Street Journal que le changement le plus important concerne l'ampleur et la portée. « Le véritable changement est celui de la portée et de l'échelle. Les arnaques sont plus grandes, plus ciblées et plus convaincantes. »
Brian Singer est doctorant à l'Université Carnegie Mellon. Il étudie l'utilisation des grands modèles de langage dans les cyberattaques et les défenses. Son estimation ? Entre la moitié et les trois quarts des messages de spam et de phishing dans le monde proviennent désormais de systèmes d'IA.
Les attaques elles-mêmes sont devenues plus crédibles. Les systèmes d'IA formés sur les communications d'entreprise peuvent produire des milliers de messages qui sonnent naturels et correspondent au style de l'entreprise. Ils imitent la façon dont les dirigeants écrivent. Ils mentionnent les actualités récentes trouvées dans les registres publics.
La technologie aide également les escrocs étrangers à masquer les erreurs de langue qui rendaient auparavant leurs tentatives évidentes. Les criminels peuvent usurper l'identité des victimes grâce à de fausses vidéos et des voix copiées. Ils utilisent la même fausse identité pour cibler plusieurs personnes à la fois.
John Hultquist est analyste en chef au sein du Google Threat Intelligence Group. Il décrit le changement principal comme une « crédibilité à grande échelle ».
Les acteurs malveillants deviennent également meilleurs dans le choix des cibles. Ils utilisent l'IA pour parcourir les réseaux sociaux et trouver des personnes traversant de grandes difficultés de vie. Divorce, décès dans la famille, perte d'emploi, et situations qui pourraient rendre une personne plus vulnérable aux arnaques sentimentales, aux fraudes aux investissements ou aux fausses offres d'emploi.
Les marchés du dark web abaissent la barrière à l'entrée
La barrière à l'entrée pour la cybercriminalité a baissé. Les marchés souterrains vendent maintenant ou louent des outils IA pour un travail criminel pour aussi peu que 90 $ par mois. Nicolas Christin dirige le département des systèmes logiciels et sociétaux de Carnegie Mellon.
Il a déclaré que ces plateformes proposent différents niveaux de tarification et une assistance client. « Les développeurs vendent des abonnements aux plateformes d'attaque avec une tarification échelonnée et un support client. »
Ces services portent des noms tels que WormGPT, FraudGPT et DarkGPT. Ils peuvent créer des logiciels malveillants et lancer des campagnes de phishing. Certains incluent même des supports pédagogiques sur les techniques de piratage.
Margaret Cunningham est vice-présidente de la sécurité et de la stratégie IA chez Darktrace, une entreprise de sécurité. Elle dit que c'est simple. « Vous n'avez pas besoin de savoir coder, il suffit de savoir où trouver l'outil. »
Il y a un développement récent appelé vibe-coding ou vibe-hacking. Cela pourrait permettre aux criminels en herbe d'utiliser l'IA pour créer leurs propres programmes malveillants plutôt que de les acheter auprès de sources souterraines. Anthropic a divulgué plus tôt cette année qu'il avait arrêté plusieurs tentatives d'utilisation de son IA Claude pour créer des rançongiciels par « des criminels ayant peu de compétences techniques. »
Les opérations criminelles elles-mêmes changent. La cybercriminalité fonctionne comme un marché commercial depuis des années, selon les experts. Une opération typique de rançongiciel impliquait différents groupes. Des courtiers en accès qui pénétraient dans les réseaux d'entreprise et vendaient l'accès. Des équipes d'intrusion qui se déplaçaient dans les systèmes pour voler des données. Et des fournisseurs de rançongiciel en tant que service qui diffusaient le malware, géraient les négociations et partageaient l'argent.
La vitesse et l'automatisation redessinent les réseaux criminels
L'IA a augmenté la vitesse, la taille et la disponibilité de ce système. Le travail précédemment fait par des personnes ayant des connaissances techniques peut maintenant fonctionner automatiquement. Cela permet à ces groupes d'opérer avec moins de personnes, moins de risques et des profits plus élevés. « Pensez-y comme à la prochaine couche d'industrialisation. L'IA augmente le débit sans nécessiter plus de main-d'œuvre qualifiée », explique Christin.
L'IA peut-elle lancer des attaques complètement seule ? Pas tout à fait. Les experts comparent la situation à la course vers les véhicules entièrement autonomes. Les 95 % initiaux ont été atteints. Mais la partie finale qui permettrait à une voiture de conduire n'importe où, n'importe quand, seule, reste hors de portée.
Les chercheurs testent les capacités de piratage de l'IA dans des environnements de laboratoire. Une équipe de Carnegie Mellon, soutenue par Anthropic, a recréé la célèbre violation de données d'Equifax en utilisant l'IA plus tôt cette année. Singer a dirigé le travail à l'Institut CyLab Security and Privacy de Carnegie Mellon. Il l'appelle « un grand bond en avant. »
Les criminels exploitent l'IA à des fins malveillantes. Mais les entreprises d'IA affirment que les mêmes outils peuvent aider les organisations à renforcer leurs défenses numériques.
Anthropic et OpenAI développent des systèmes d'IA capables d'examiner continuellement le code logiciel pour identifier les faiblesses que les criminels pourraient exploiter. Les humains doivent toutefois approuver toutes les corrections. Un programme IA récent développé par des chercheurs de Stanford a surpassé certains testeurs humains lors de la recherche de problèmes de sécurité dans un réseau.
Même l'IA n'arrêtera pas toutes les violations. C'est pourquoi les organisations doivent se concentrer sur la création de réseaux robustes qui continuent de fonctionner pendant les attaques, déclare Hultquist.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Noor Bazmi
Noor Bazmi contribue à l'équipe d'actualités de Cryptopolitan, dotée d'un diplôme en études médiatiques. Noor couvre les actualités liées à la blockchain, aux cryptomonnaies, à l'intelligence artificielle, aux grandes entreprises technologiques, aux marchés des véhicules électriques, à l'économie mondiale et aux changements de politique gouvernementale. Elle poursuit actuellement des études en marketing pour mieux connecter avec les audiences mondiales.
