Les agents d'OpenAI et d'Anthropic signalent 19 violations lors des tests de sécurité au Royaume-Uni
- L'Institut britannique de sécurité de l'IA a détecté 19 infractions aux règles sur 122 tests.
- Le modèle Mythos 5 d'Anthropic était responsable de 17 desdent, tandis que le modèle GPT-5.6-Sol d'OpenAI était responsable des deux autres.
- Le piredent impliquait un agent écrivant un code malveillant et falsifiant de fauxdenten ligne pour obtenir l'approbation d'un humain.
Lors de tests de cybersécurité, les agents d'IA d'OpenAI et d'Anthropic ont commis 19 actions non autorisées, selon l'Institut britannique de sécurité de l'IA. L'institut a indiqué mardi que l'un des agents avait créé de faussesdenten ligne pour inciter une personne à approuver un code malveillant.
AISI enregistre 19 violations, principalement d'origine anthropique
Ces résultats sont issus d'un exercice fictif de cybersécurité mené par l'AISI, un organisme gouvernemental britannique, afin d'évaluer les capacités potentielles des agents des deux entreprises. L'institut a reproduit le même défi 122 fois et a constaté 19 infractions lors de 10 de ces simulations.
Dix-sept des actions signalées étaient dues à l'agent d'Anthropic utilisant son modèle Mythos 5. Les deux autres provenaient de GPT-5.6-Sol d'OpenAI.
L'AISI a déclaré dans un article de blog que certains des agents « s'étaient livrés à une activité soutenue et potentiellement nuisible dirigée contre de vraies personnes et organisations », tout en précisant qu'aucune de ces violations n'avait causé de préjudice concret.
AISI bénéficie d'un accès anticipé aux modèles de pointe grâce à des accords volontaires avec les principaux laboratoires. Des tests permettent de détecter ce type de comportement avant que les modèles ne soient mis à la disposition des clients.
OpenAI et Anthropic présentent les agents commerciaux comme la prochaine génération de logiciels d'entreprise, mais l'institut interprète ces résultats comme la preuve que les garanties autour des tests d'agents sont encore insuffisantes.
L' le plus gravedent impliquait un agent ayant écrit un code malveillant et créé de fausses identités en lignedentpuis tenté d'obtenir la validation du code par un humain. L'AISI n'a pas divulgué le nom du modèle utilisé. Elle a précisé que cet épisode ne correspondait à aucun des deux cas déjà révélés par OpenAI
Le coupable le plus probable était donc l'agent d'Anthropic, a déclaré Andrew Yoon, chercheur chez CivAI, une organisation californienne à but non lucratif qui étudie les risques liés à l'IA.
L'Institut britannique de cybersécurité (AISI) a publié un rapport sur son évaluation récente de la cybersécurité des modèles Claude Mythos 5 d'Anthropic et GPT-5.6 Sol d'OpenAI. Ces modèles ont été mis à l'épreuve dans un environnement où leurs protections habituelles étaient désactivées et où ils étaient délibérément…
— Anthropic (@AnthropicAI) 4 août 2026
OpenAI et Anthropic pointent du doigt une mauvaise configuration
Anthropic a déclaré dans un message publié sur X qu'elle travaillait avec l'AISI pour recueillir des informations et mener une enquête.
OpenAI a répondu aux deux actions associées à son agent dans un article de blog de l'entreprise, les deux actions impliquant un accès à Internet non autorisé par l'invite.
L'entreprise a déclaré vouloir « renforcer les pratiques communes pour mener à bien des évaluations à haut risque en toute sécurité » et prévoit de réunir des instituts nationaux d'IA, des évaluateurs externes et des laboratoires concurrents dans les semaines à venir.
OpenAI a utilisé le même message pour signaler un autre problème. Irregular, un prestataire de tests tiers, a mal configuré un système, ce qui a permis par inadvertance aux agents d'OpenAI d'accéder à Internet.
Anthropic avait fait une révélation très similaire concernant Irregular une semaine auparavant. OpenAI a élargi son enquête après avoir découvert de nouvelles failles de sécurité au niveau de ses agents.
En juillet, un d'OpenAI s'est échappé d'un environnement isolé et a accédé aux systèmes en direct de Hugging Face, qui a alerté le FBI avant que l'attaque ne soit tracjusqu'à l'entreprise elle-même environ une semaine plus tard.
Lors de l'évaluation de l'AISI, les agents n'ont jamais quitté leurs environnements de test. L'AISI leur a délibérément accordé un accès à Internet, conformément à sa procédure standard.
La faille de sécurité chez Hugging Face a également incité Anthropic à auditer ses journaux d'activité. Cryptopolitan a rapporté le 31 juillet que l'entreprise avait découvert que trois de ses modèles, dont Mythos 5, avaient échappé aux environnements de test et atteint trois organisations réelles après qu'une erreur de configuration leur ait permis d'accéder à Internet.
Mythos 5 a publié sur PyPI un package Python malveillant qui a fonctionné sur 15 systèmes réels avant d'être supprimé. Anthropic a demandé au groupe d'évaluation METR d'examiner les événements de manièredent.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Combien de failles de sécurité l'AI Security Institute a-t-il découvertes, et quel modèle en est à l'origine la plupart ?
AISI a enregistré 19 actions non autorisées sur 122 tests. L'agent Mythos 5 d'Anthropic était responsable de 17 d'entre elles, et GPT-5.6-Sol d'OpenAI des deux autres.
Quel a été l'dent le plus grave survenu lors des tests ?
Un agent a écrit un code malveillant et créé de faussesdenten ligne pour tenter d'obtenir l'approbation d'un humain pour ce code.
Ces violations ont-elles causé des dommages concrets ?
Non. L'AISI a déclaré n'avoir constaté aucun préjudice concret lié à aucune des 19 actions.
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. CryptopolitanCryptopolitan.com toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan où elle couvre les technologies, l'intelligence artificielle, la robotique, les cryptomonnaies, les arnaques et le piratage informatique. Elle travaille dans le secteur des cryptomonnaies depuis 2017 et a notamment travaillé chez Forward Protocol, AmaZix et Cryptosomniac. Randa est diplômée en génie électrique ettronde l'Université de Bradford.
