Le piratage et la désinformation alimentés par l’IA en hausse, met en garde le responsable de la cybersécurité canadien

Sami Khoury, directeur du Centre canadien pour la cybersécurité, a émis un avertissement concernant l’utilisation alarmante de l’intelligence artificielle (IA) par les pirates informatiques et les propagandistes. Selon Khoury, l’IA est exploitée pour créer des logiciels malveillants, des e-mails de hameçonnage sophistiqués et diffuser de la désinformation en ligne. Ce développement inquiétant met en lumière la manière dont les acteurs malveillants exploitent les technologies émergentes pour poursuivre leurs activités criminelles informatiques.

La désinformation est une information délibérément fausse et destinée à induire en erreur, comme du matériel de propagande émis par une autorité vers les médias. La mésinformation est une information dont l’inexactitude est involontaire, comme des faits rapportés par erreur. La mésinformation se propage parce que les journalistes ne vérifient pas les sources. La désinformation est dangereuse car l’autorité qui a émis l’information aurait pu la fabriquer. Il est rapporté que l’IA est utilisée « de manière plus ciblée, dans le code malveillant (et) dans la mésinformation et la désinformation ».

Inquiétudes et rapports des organismes de surveillance de la cybersécurité

Les affirmations stimulantes de Khoury s’alignent étroitement avec les préoccupations croissantes exprimées par divers groupes de surveillance de la cybersécurité. Ces rapports ont sonné l’alarme sur les risques hypothétiques associés aux avancées rapides de l’IA, en particulier concernant les grands modèles de langage (LLM), qui puisent dans d’immenses réserves de texte pour fabriquer des dialogues et des documents d’une réalisme époustouflant. Le rapport complet d’Europol a explicitement souligné le potentiel des LLM, illustré par ChatGPT d’OpenAI, à imiter habilement des organisations ou des individus, augmentant ainsi les enjeux des cybermenaces potentielles.

De même, le Centre national britannique de cybersécurité, dans un article de blog, a exprimé des craintes bien fondées concernant la mauvaise utilisation potentielle des LLM, laissant entendre la possibilité pour les criminels d’exploiter ces outils puissants alimentés par l’IA pour améliorer leurs capacités actuelles d’attaque informatique, amplifiant ainsi les risques auxquels font face les organisations et les individus.

Au milieu de la révolution technologique en constante évolution qui balaye la Silicon Valley, la face sombre de l’IA émerge progressivement au premier plan, les cybercriminels exploitant habilement ses capacités puissantes à des fins néfastes. Sami Khoury, directeur du Centre canadien pour la cybersécurité, a lancé un appel à l’action, révélant que l’IA n’est plus seulement un outil entre les mains des chercheurs et des innovateurs, mais est devenue une arme utilisée par les cybercriminels dans leurs entreprises malveillantes. 

Les premières preuves dessinent un tableau inquiétant, l’IA émergeant comme un élément pivot dans la création d’e-mails de hameçonnage insidieux, la propagation de mésinformation et de désinformation pour semer le chaos, et même l’ingénierie de code malveillant pour faciliter des attaques informatiques sophistiquées. Les implications de cette métamorphose sombre soulèvent des inquiétudes quant aux menaces croissantes que le monde affronte dans le domaine de la cybercriminalité alimentée par l’IA.

Les cyberattaques alimentées par l’IA se multiplient

Dans le domaine de la cybersécurité, le vaste potentiel d’applications malveillantes de l’IA a été révélé par des chercheurs diligents, dévoilant plusieurs scénarios plausibles où l’IA peut être armée à des fins néfastes telles que la désinformation. Ce qui semblait autrefois être des préoccupations théoriques s’est maintenant matérialisé en réalités troublantes, alors que du contenu généré par l’IA suspecté commence à émerger dans des contextes réels. 

Les révélations d’un ancien hacker ont encore accru les alarmes, alors qu’il a révélé sa découverte d’un LLM qui avait été entraîné sur du matériel malveillant, l’employant remarquablement pour créer un e-mail très persuasif sollicitant un transfert d’argent urgent. La sophistication affichée par ce message généré par l’IA a souligné les capacités évolutives des modèles d’IA, suscitant l’inquiétude parmi les experts en cybersécurité concernant les implications à grande portée une fois ces outils d’IA déchaînés dans la nature numérique.

Bien que l’emploi de l’IA pour façonner du code malveillant reste relativement naissant, l’appréhension profonde de Khoury est bien fondée, compte tenu de la vitesse fulgurante à laquelle les modèles d’IA évoluent. L’avancement incessant de la technologie IA pose un défi substantiel pour surveiller et évaluer efficacement son plein potentiel de malveillance avant qu’il ne soit libéré dans la nature. 

Alors que la communauté de la cybersécurité fait face à ces incertitudes, des questions surgissent quant à la trajectoire des applications sinistres de l’IA et aux menaces profondes qu’elles pourraient poser à la cybersécurité dans un avenir prévisible. L’urgence de relever ces défis devient de plus en plus pressante, alors que le domaine de la cybercriminalité alimentée par l’IA continue d’évoluer parallèlement aux progrès rapides de la technologie IA.

Inquiétudes urgentes concernant les cyberattaques alimentées par l’IA

L’émergence de cyberattaques alimentées par l’IA a suscité des inquiétudes urgentes parmi les experts en cybersécurité. Avec l’évolution rapide des modèles d’IA, la peur de menaces inconnues guettant au coin de la rue s’intensifie. La capacité de créer des e-mails de hameçonnage convaincants et de générer de la mésinformation sophistiquée pose des défis significatifs pour la défense cybernétique.

Alors que les cybercriminels exploitent l’IA pour leurs activités malveillantes, le paysage de la cybersécurité devient un champ de bataille d’une course aux armements IA en cours. Les chercheurs et les professionnels de la cybersécurité ont pour tâche de rester en avance sur les développements malveillants de l’IA, de développer des contre-mesures efficaces et de se protéger contre les conséquences potentielles du piratage et des campagnes de désinformation pilotés par l’IA.