Check Point découvre une faille de jailbreak dans OpenAI Codex injectant des publicités
- Check Point Research a divulgué l’existence de Haiou, un jailbreak gratuit pour OpenAI Codex qui modifie les instructions persistantes de l’agent afin de promouvoir la passerelle IA de son auteur, un comportement qualifié par l’entreprise de « prompt adware » (publicité intégrée aux prompts).
- Les chercheurs n’ont pas jugé la passerelle malveillante ni classé Haiou comme une attaque confirmée sur la chaîne d’approvisionnement, mais le mécanisme est important car ces modifications persistantes pourraient orienter les recommandations futures.
- Avec la hausse simultanée des coûts liés au codage par IA et des dépenses en sécurité, se pose la question de savoir si les entreprises examineront les prompts, les compétences et les passerelles avec autant de rigueur que les logiciels traditionnels.
Un simple « bonjour » suffit pour qu’un assistant de codage alimenté par l’IA commence à promouvoir un service commercial. Check Point Research a découvert ce comportement dans Haiou, une solution de contournement gratuite destinée à OpenAI Codex. Ce bundle modifie les commandes persistantes de l’agent, provoquant ainsi l’affichage d’une publicité pour une passerelle IA commerciale dès qu’un utilisateur le salue. Mais le problème va au-delà de simples publicités indésirables. Les mêmes commandes peuvent également influencer les conseils techniques et les recommandations fournis par l’agent.
Du jailbreak au canal publicitaire
La version 4.5.0 du bundle Haiou comprend six compétences axées sur la sécurité. À travers ses invites, elle tente de contourner les limites et problèmes de Codex en exécutant des commandes problématiques sous couvert d'un jeu de capture de drapeau. Le bundle va plus loin : le lanceur vérifie d'abord les archives signées et décode les fichiers d'invite cachés. L'un de ces fichiers modifie l'ensemble d'instructions de Codex et fait en sorte que le simple mot « hello » génère une publicité pour une passerelle IA au lieu d'une simple salutation.
Le contenu du bundle n'est pas facilement accessible. Selon son dépôt GitHub public, il est distribué sous forme de fichier archive zip plutôt que de fichiers d'invite en texte brut. Cependant, le dépôt GitHub ne confirme pas indépendamment les conclusions de Check Point concernant les instructions cachées dans la version 4.5.0.
Ce que les chercheurs ont fait et n’ont pas conclu
Check Point a trouvé Haiou sur un serveur mal configuré appartenant à des acteurs de la menace, aux côtés de Cobalt Strike et d’autres outils de piratage. Cependant, les chercheurs n’ont trouvé aucune preuve reliant l’auteur de Haiou à des activités cybercriminelles. Ils n’ont observé aucun vol d’informations et n’ont relevé aucun indice indiquant que la passerelle publicisée était malveillante. Ils se sont abstenus de qualifier cela d’attaque avérée de la chaîne d’approvisionnement. Dans leurs tests, Claude Code a rejeté l’instruction injectée.
Les chercheurs ont toutefois réussi à établir comment Haiou affecte la réponse de Codex. Haiou modifie les commandes fiables de l’agent, ce qui provoque l’affichage de publicités dans différentes sessions. Check Point a qualifié ce comportement de « prompt adware » (publicité par invite). Deux définitions permettent d’expliquer le fonctionnement de cette technique et ses objectifs :
Publicité par invite : Check Point la définit comme une modification qui « altère de manière persistante les instructions fiables d'un agent » afin d'influencer les réponses futures à des fins commerciales ou comportementales.
Passerelle IA : Un intermédiaire qui transmet les requêtes et les réponses entre une application et un fournisseur de modèle.
Pourquoi l’infrastructure sous-jacente importe plus qu’une simple publicité
Check Point n’a trouvé aucune preuve que la passerelle publicitaire de Haiou soit malveillante. Cependant, les passerelles se situent entre les agents IA et leurs fournisseurs de modèles, leur donnant accès aux informations échangées. Cette position comporte des risques.
Une autre étude a examiné 428 routeurs d'API LLM, comprenant 28 services payants et 400 gratuits. Neuf des services analysés ont injecté du code malveillant dans les appels d'outils renvoyés, tandis que 17 ont interagi avec des identifiants AWS factices placés par les chercheurs. Cependant, rien de tout cela n'affecte Haiou en quoi que ce soit. Cette recherche démontre comment les intermédiaires peuvent influencer les informations reçues et traitées par les agents IA.
Un pattern récurrent dans les fichiers d’instructions et les compétences
Les passerelles ne sont pas le seul moyen d’influencer un agent IA. Des fichiers apparemment ordinaires peuvent contenir des instructions qui modifient son comportement.
Forever Security a découvert un fichier AGENTS.md malveillant dans le dossier Téléchargements d'un client. Lors de leur reconstitution, Codex a exécuté la charge utile dans plus de 90 % des tentatives. Une enquête distincte menée par Snyk a examiné 3 984 compétences (Skills) pour agents et a confirmé la présence de 76 charges malveillantes.
Les résultats mentionnés ci-dessus soulèvent un problème plus large. Ils indiquent que les agents IA ont tendance à exécuter les instructions contenues dans les fichiers et les compétences sans pleinement comprendre les conséquences néfastes d'une telle exécution. Par conséquent, la Cloud Security Alliance recommande de traiter les fichiers d'instructions comme du code exécutable sur le plan de la sécurité.
La pression sur les coûts qui rend les passerelles alternatives tentantes
Les préoccupations en matière de sécurité surviennent alors que les entreprises font face à une pression croissante pour maîtriser leurs dépenses liées à l’IA. Gartner prévoit que les coûts de codage par IA dépasseront le salaire moyen d’un développeur d’ici 2028, à mesure que la consommation de tokens augmente. Des passerelles moins onéreuses pourraient séduire les entreprises souhaitant réduire ces dépenses.
Pourtant, le coût ne constitue qu’un aspect de la décision. McKinsey a révélé que près des deux tiers des organisations interrogées considèrent la sécurité et les risques comme des obstacles majeurs au déploiement de l’IA agentic.
Haiou met en lumière pourquoi ces préoccupations sont importantes. Avant d’adopter des passerelles tierces ou des compétences, les entreprises doivent vérifier leurs sources, examiner les instructions des agents et restreindre les permissions. Elles doivent également surveiller les agents pour détecter toute publicité ou recommandation inattendue.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
FAQ
Qu'est-ce que Haiou et quel est son impact sur OpenAI Codex ?
Haiou est un bundle de contournement gratuit pour OpenAI Codex, version 4.5.0 au moment de l'analyse, qui installe des compétences axées sur la sécurité et modifie les fichiers d'instructions globales de Codex afin qu'une salutation courante déclenche une publicité pour la passerelle IA compatible avec OpenAI de l'auteur.
Check Point a-t-il constaté que Haiou volait des données ou constituait une attaque par chaîne d'approvisionnement ?
Non. Check Point a indiqué n'avoir trouvé aucune preuve que la passerelle publicitaire était malveillante, n'a pas observé de fuite d'informations par Haiou et ne l'a pas classée comme une attaque confirmée par la chaîne d'approvisionnement en IA, bien qu'il ait trouvé le bundle dans l'environnement d'un acteur cybercriminel.
Pourquoi les chercheurs considèrent-ils les passerelles IA tierces et les fichiers d'instructions comme un risque ?
Une étude portant sur 428 routeurs LLM a révélé que neuf injectaient du code malveillant, et les rapports de Forever Security et Snyk montrent que les fichiers d'instructions et les compétences d'agent de confiance peuvent pousser un agent à installer des packages ou à se reconfigurer, offrant ainsi aux intermédiaires une influence sur le comportement de l'agent.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Micah Abiodun
Micah Abiodun met à profit son Master en Ingénierie et Gestion de l'Environnement (MSc) à l'Université de Technologie de Tallinn (TalTech) pour peaufiner ses articles sur les prévisions de prix et l'actualité à Cryptopolitan. Fort de sept années d'expérience dans les médias cryptographiques, il couvre les principales cryptomonnaies, les altcoins, la finance décentralisée (DeFi), les stablecoins, les tendances macroéconomiques et les technologies émergentes.
