DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

Les pirates inondent Gemini de Google avec des questions dans le cadre d’une vaste opération de vol d’IA

ParNoor BazmiNoor Bazmi 3 min de lecture
  • L'IA Gemini de Google a reçu plus de 100 000 requêtes lors d'une seule attaque par distillation visant à voler sa technologie, des attaques similaires ayant été menées dans le monde entier.
  • Le groupe de piratage soutenu par l'État chinois APT31 a utilisé Gemini avec l'outil Hexstrike pour planifier des cyberattaques contre des cibles spécifiques aux États-Unis.
  • Selon IBM, le vol de modèles d'IA coûte désormais aux organisations 173 $ par enregistrement, les modèles de pointe volés pouvant valoir des centaines de millions sur le marché noir.

Le chatbot IA de Google, Gemini, est devenu la cible d’un vol d’informations à grande échelle, les attaquants bombardant le système de questions pour copier son fonctionnement. Une seule opération a envoyé plus de 100 000 requêtes au chatbot, tentant d’extraire les modèles secrets qui le rendent intelligent.

L’entreprise a annoncé jeudi que ces soi-disant « attaques par distillation » s’aggravent. Les acteurs malveillants envoient des vagues de questions après d’autres pour comprendre la logique derrière les réponses de Gemini. Leur objectif est simple : voler la technologie de Google pour construire ou améliorer leurs propres systèmes d’IA sans dépenser des milliards en développement.

Google estime que la plupart des attaquants sont des entreprises privées ou des chercheurs cherchant à prendre de l'avance sans fournir le travail nécessaire. Les attaques provenaient du monde entier, selon le rapport de l'entreprise. John Hultquist, qui dirige le groupe d'intelligence des menaces de Google, a déclaré que les petites entreprises utilisant des outils d'IA personnalisés seraient probablement confrontées à des attaques similaires bientôt.

Les entreprises technologiques ont investi des milliards de dollars dans la création de leurs chatbots IA. Le fonctionnement interne de ces systèmes est traité comme des joyaux de la couronne. Même avec des défenses en place pour détecter ces attaques, les grands systèmes d’IA restent des cibles faciles car toute personne ayant accès à Internet peut interagir avec eux.

L’année dernière, OpenAI a accusé l’entreprise chinoise DeepSeek, affirmant qu’elle utilisait la distillation pour améliorer ses modèles. Cryptopolitan a rapporté le 30 janvier que l’Italie et l’Irlande avaient banni DeepSeek après qu’OpenAI eut accusé la firme chinoise d’utiliser la distillation pour voler ses modèles d’IA. Cette technique permet aux entreprises de copier une technologie coûteuse à une fraction du prix.

Pourquoi les attaquants font-ils cela ?

L’économie est brutale. La création d’un modèle d’IA de pointe coûte des centaines de millions, voire des milliards de dollars. DeepSeek aurait construit son modèle R1 pour environ six millions de dollars en utilisant la distillation, tandis que le développement de ChatGPT-5 aurait dépassé deux milliards de dollars, selon les rapports de l’industrie. Voler la logique d’un modèle réduit cet investissement massif à presque rien.

Selon Google, de nombreuses attaques contre Gemini ciblaient les algorithmes qui l’aident à « raisonner » ou à traiter l’information. Les entreprises qui forment leurs propres systèmes d’IA sur des données sensibles – comme 100 ans de stratégies de trading ou d’informations clients – font désormais face à la même menace.

« Disons que votre LLM a été entraîné sur 100 ans de réflexion secrète sur votre façon de trader. Théoriquement, vous pourriez en distiller une partie », a expliqué Hultquist.

Les pirates d’État rejoignent la chasse

Le problème va au-delà des entreprises avides d’argent. APT31, un groupe de piratage informatique lié au gouvernement chinois frappé de sanctions par les États-Unis en mars 2024, a utilisé Gemini fin l’année dernière pour planifier de véritables cyberattaques contre des organisations américaines.

Le groupe a associé Gemini à Hexstrike, un outil de piratage open-source capable d’exécuter plus de 150 programmes de sécurité. Ils ont analysé les vulnérabilités d’exécution de code à distance, les moyens de contourner la sécurité web et les attaques par injection SQL – toutes visant des cibles spécifiques aux États-Unis, selon le rapport de Google.

Cryptopolitan avait déjà couvert des préoccupations similaires en matière de sécurité de l’IA, mettant en garde contre l’exploitation des vulnérabilités de l’IA par les pirates. L’affaire APT31 montre que ces avertissements étaient parfaitement justifiés.

Hultquist a souligné deux grandes inquiétudes. Les adversaires opèrent sur l’ensemble des intrusions avec un minimum d’aide humaine, et automatisent le développement d’outils d’attaque. « Ce sont deux façons dont les adversaires peuvent obtenir des avantages majeurs et avancer dans le cycle d’intrusion avec un minimum d’interférence humaine », a-t-il déclaré.

La fenêtre entre la découverte d’une faille logicielle et la mise en place d’une correction, appelée « écart de correctif », pourrait s’élargir considérablement. Les organisations mettent souvent des semaines à déployer des défenses. Avec des agents IA trouvant et testant automatiquement les vulnérabilités, les attaquants pourraient agir beaucoup plus rapidement.

« Nous devrons tirer parti des avantages de l’IA et retirer de plus en plus les humains de la boucle, afin de pouvoir répondre à la vitesse de la machine », a déclaré Hultquist à The Register.

Les enjeux financiers sont énormes. Le rapport sur les violations de données d’IBM pour 2024 a révélé que le vol de propriété intellectuelle coûte désormais aux organisations 173 dollars par enregistrement, les violations axées sur la PI ayant augmenté de 27 % en glissement annuel. Les poids des modèles d’IA représentent les cibles les plus précieuses dans cette économie souterraine – un seul modèle de pointe volé pourrait rapporter des centaines de millions sur le marché noir.

Google a fermé les comptes liés à ces campagnes, mais les attaques continuent de provenir « du monde entier », a déclaré Hultquist. À mesure que l’IA devient plus puissante et que davantage d’entreprises s’y fieront, il faut s’attendre à ce que cette ruée vers l’or numérique s’intensifie. La question n’est pas de savoir si de nouvelles attaques surviendront, mais si les défenseurs pourront suivre.

Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.

Partager cet article
Noor Bazmi

Noor Bazmi

Noor Bazmi contribue à l'équipe d'actualités de Cryptopolitan, dotée d'un diplôme en études médiatiques. Noor couvre les actualités liées à la blockchain, aux cryptomonnaies, à l'intelligence artificielle, aux grandes entreprises technologiques, aux marchés des véhicules électriques, à l'économie mondiale et aux changements de politique gouvernementale. Elle poursuit actuellement des études en marketing pour mieux connecter avec les audiences mondiales.

PLUS D'ACTUALITÉS…