La Chine procède aux premières arrestations suite à une attaque de ransomware menée par ChatGPT

Une entreprisedentde Hangzhou, en Chine, a récemment été victime d'une attaque de ransomware perpétrée à l'aide de ChatGPT, ce qui a conduit aux premières arrestations dans le pays impliquant ce chatbot d'IA.

Les autorités chinoises ont annoncé l'arrestation de quatre cybercriminels à la fin du mois dernier : deux à Pékin et deux en Mongolie-Intérieure. Les suspects ont avoué avoir utilisé ChatGPT pour optimiser le code de rançongiciels, effectuer des analyses de réseau, infiltrer des systèmes, déployer des logiciels malveillants et extorquer de l'argent.

L'attaque elle-même a vu les réseaux de l'entreprise bloqués par un ransomware, les criminels exigeant un paiement de 20 000 unités de cryptomonnaie Tether pour rétablir l'accès.

L'utilisation des rançongiciels est en hausse

Les rançongiciels sont rapidement devenus l'une des cybermenaces les plus graves auxquelles sont confrontés les gouvernements, les entreprises et les particuliers du monde entier. Ce logiciel malveillant chiffre les fichiers et les systèmes, les rendant inaccessibles jusqu'au paiement d'une rançon.

Les dommages causés par les rançongiciels ont dépassé les 20 milliards de dollars estimés à l'échelle mondiale en 2021. Les attaques ont augmenté de 13 % cette année-là rien qu'en Chine, où les cybercriminels ont empoché plus de 1,6 milliard de dollars en paiements extorqués.

Ces arrestations marquent la première implication de ChatGPT dans une affaire de ransomware chinoise. Cependant, il est probable que le chatbot lui-même n'ait pas participé directement à l'attaque.

L'accusé a en revanche reconnu avoir utilisé les capacités de traitement du langage naturel de ChatGPT pour optimiser son code malveillant. La nature conversationnelle de l'IA facilite l'amélioration des programmes de rançongiciel grâce aux retours et suggestions fournis.

L'accès à ChatGPT est limité en Chine

Bien qu'immensément populaire dans le monde entier, ChatGPT est soumis à des restrictions en Chine. OpenAI, son développeur, a bloqué l'accès au chatbot depuis les adresses IP de Chine continentale.

Certains utilisateurs contournent les limitations en utilisant des VPN enregistrés hors de Chine. Cependant, les risques juridiques pour les entreprises fournissant de tels services restent flous.

Les autorités ont averti que ChatGPT pourrait potentiellement « commettre des crimes et répandre des rumeurs » si son accès se généralisait. L'intérêt pour cette IA reste néanmoins vif, et les entreprises technologiques rivalisent d'ingéniosité pour développer des solutions concurrentes au produit phare d'OpenAI.

L'intelligence artificielle générative permet également de créer des deepfakes convaincants, auxquels la police chinoise a été confrontée cet été lors d'une opération de lutte contre les escroqueries aux prêts. Face aux risquesdentde cette technologie, les autorités de régulation du monde entier évaluent la meilleure façon d'y répondre.

Inquiétudes concernant les logiciels malveillants écrits par l'IA

ChatGPT s'est fait connaître pour son ton conversationnel et ses réponses éloquentes et naturelles sur la plupart des sujets. Mais ses compétences linguistiques avancées le rendent également dangereusement efficace pour des usages malveillants tels que l'optimisation de logiciels malveillants.

Des chercheurs en cybersécurité ont démontré la facilité avec laquelle ChatGPT pouvait générer de fausses pages d'hameçonnage, des codes malveillants et d'autres menaces. À partir de simples instructions, l'IA produit des rançongiciels sophistiqués conçus pour échapper à la détection.

Et les chatbots comme ChatGPT n'oublient jamais ce qu'ils ont appris. Les connaissances accumulées perfectionnent sans cesse leurs compétences en matière de programmation de logiciels malveillants, de piratage de systèmes et de tromperie des cibles.

La nature générative de l'IA pose des risques plus larges

Outre les vulnérabilités logicielles, les chatbots dotés d'IA présentent également des risques liés à la désinformation. Leur style d'écriture convaincant, semblable à celui d'un humain, peut inonder les réseaux sociaux et les sites web de fausses informations qui paraissent crédibles.

L'IA générative permet également la création de contenus audio/vidéo truqués et de voix clonées à des fins frauduleuses. Les usurpations d'identité et la diffusion de fausses informations sur des célébrités constituent des menaces majeures à mesure que cette technologie progresse.

De plus, des problèmes juridiques et éthiques persistent concernant les ensembles de données d'entraînement des IA et leur propriété. Des systèmes comme ChatGPT ingèrent d'immenses quantités de livres, d'articles, de chansons, d'images et d'autres contenus protégés par le droit d'auteur sans autorisation.

À mesure que les capacités de l'IA générative croissent de façon exponentielle, son potentiel de nuisance entre de mauvaises mains augmente également. Cependant, une réglementation rigoureuse et une vigilance accrue en matière de cybersécurité peuvent contribuer à atténuer les menaces émergentes