Des pirates informatiques inondent le serveur Gemini de Google de questions dans le cadre d'une opération massive de vol d'intelligence artificielle

Le chatbot Gemini de Google, doté d'intelligence artificielle, est la cible d'un vol d'informations à grande échelle. Des pirates informatiques ont bombardé le système de questions afin de reproduire son fonctionnement. Une seule opération a consisté à envoyer plus de 100 000 requêtes au chatbot, dans le but de percer les secrets de son intelligence.

L'entreprise a signalé jeudi que ces attaques dites « par distillation » s'intensifient. Des cybercriminels envoient des vagues successives de questions pour tenter de comprendre la logique des réponses de Gemini. Leur objectif est simple : s'emparer de la technologie de Google afin de concevoir ou d'améliorer leurs propres systèmes d'IA sans investir des milliards en développement.

Google estime que la plupart des auteurs d'attaques sont des entreprises privées ou des chercheurs cherchant à prendre de l'avance sans fournir d'efforts. Selon le rapport. John Hultquist, responsable du groupe de veille sur les menaces de Google, a déclaré que les petites entreprises utilisant des outils d'IA personnalisés seront probablement bientôt confrontées à des attaques similaires.

Les entreprises technologiques ont investi des milliards de dollars dans le développement de leurs chatbots d'IA. Le fonctionnement interne de ces systèmes est traité comme un trésor national. Malgré les défenses mises en place pour contrer ces attaques, les principaux systèmes d'IA restent des cibles faciles, car toute personne ayant accès à Internet peut interagir avec eux.

L'année dernière, OpenAI a accusé la société chinoise DeepSeek d'avoir recours à la distillation pour améliorer ses modèles. Cryptopolitan a rapporté le 30 janvier que l'Italie et l'Irlande avaient interdit DeepSeek après qu'OpenAI a affirmé que l'entreprise chinoise utilisait la distillation pour s'approprier ses modèles d'IA. Cette technique permet aux entreprises de copier des technologies coûteuses à moindre coût.

Pourquoi les attaquants agissent-ils ainsi ?

Le constat économique est impitoyable. Développer un modèle d'IA de pointe coûte des centaines de millions, voire des milliards de dollars. DeepSeek aurait construit son modèle R1 pour environ six millions de dollars grâce à la distillation, tandis que le développement de ChatGPT-5 a dépassé les deux milliards de dollars, selon des rapports du secteur. S'approprier la logique d'un modèle permet de réduire cet investissement colossal à presque rien.

Selon Google, nombre des attaques contre Gemini visaient les algorithmes qui lui permettent de « raisonner » ou de traiter l'information. Les entreprises qui entraînent leurs propres systèmes d'IA sur des données sensibles – comme un siècle de stratégies de trading ou des informations clients – sont désormais confrontées à la même menace.

« Imaginons que votre master en droit (LLM) repose sur un siècle de réflexion secrète sur votre façon de trader. Théoriquement, vous pourriez en extraire une partie », a expliqué Hultquist.

Des pirates informatiques étatiques se joignent à la chasse

Le problème ne se limite pas aux entreprises avides de profit. APT31, un groupe de pirates informatiques gouvernemental chinois frappé de sanctions américaines en mars 2024, a utilisé Gemini à la fin de l'année dernière pour planifier des cyberattaques contre des organisations américaines.

Le groupe a utilisé Gemini avec Hexstrike, un outil de piratage open source capable d'exécuter plus de 150 programmes de sécurité. Ils ont analysé des failles d'exécution de code à distance, des méthodes pour contourner la sécurité web et des attaques par injection SQL, le tout visant des cibles américaines spécifiques, selon le rapport de Google.

Cryptopolitan avait déjà abordé des problèmes de sécurité similaires liés à l'IA, alertant sur l'exploitation des vulnérabilités par les pirates informatiques. L'affaire APT31 confirme la justesse de ces avertissements.

Hultquist a souligné deux préoccupations majeures : la capacité des adversaires à mener des intrusions complètes avec une intervention humaine minimale et l’automatisation du développement des outils d’attaque. « Ce sont deux moyens pour les adversaires d’obtenir des avantages considérables et de progresser dans le cycle d’intrusion avec une intervention humaine minimale », a-t-il déclaré.

Le délai entre la découverte d'une faille logicielle et la mise en place d'un correctif, appelé « écart de correctif », pourrait s'allongermatic. Les organisations mettent souvent des semaines à déployer des systèmes de défense. Grâce aux agents d'IA qui détectent et testentmaticles vulnérabilités, les attaquants pourraient agir beaucoup plus rapidement.

« Nous allons devoir tirer parti des avantages de l'IA et réduire progressivement la part des humains dans le processus, afin de pouvoir réagir à la vitesse des machines », a déclaré Hultquist au Register.

Les enjeux financiers sont colossaux. Selon le rapport 2024 d'IBM sur les violations de données, le vol de propriété intellectuelle coûte désormais aux entreprises 173 dollars par enregistrement, les violations ciblant la PI ayant bondi de 27 % en un an. Les pondérations des modèles d'IA représentent les cibles les plus précieuses de cette économie souterraine : un seul modèle de pointe volé pourrait se vendre des centaines de millions de dollars au marché noir.

Google a fermé les comptes liés à ces campagnes, mais les attaques continuent d'affluer du monde entier, a déclaré Hultquist. À mesure que l'IA gagne en puissance et que de plus en plus d'entreprises en dépendent, il faut s'attendre à une intensification de cette ruée vers l'or numérique. La question n'est pas de savoir si d'autres attaques se produiront, mais si les systèmes de défense pourront y faire face.