Les agents d'OpenAI et d'Anthropic enregistrent 19 des violations lors des tests de sécurité au Royaume-Uni
- L'Institut britannique de sécurité de l'IA a recensé 19 actions non conformes à la règle sur 122 essais.
- Mythos 5 d'Anthropic était responsable de 17 incidents, tandis que GPT-5.6-Sol d'OpenAI était responsable des deux autres.
- Le pire incident impliquait un agent écrivant du code malveillant et forgeant de fausses identités en ligne pour obtenir l'approbation d'un humain.
Lors des tests de cybersécurité, les agents IA d'OpenAI et d'Anthropic ont effectué 19 actions non autorisées, selon l'AI Security Institute du Royaume-Uni. L'institut a déclaré mardi qu'un des agents avait créé de fausses identités en ligne pour tromper une personne et la pousser à approuver du code malveillant.
L'AISI enregistre 19 des violations, principalement provenant d'Anthropic
Les résultats étaient basés sur un exercice de cybersécurité fictif organisé par l'AISI, un organisme du gouvernement britannique, pour explorer ce que les agents des deux entreprises pourraient être capables de faire. L'institut a répété le même défi 122 fois et a enregistré 19 actions enfreignant les règles lors de 10 de ces exécutions.
17 des actions signalées étaient dues à l'agent d'Anthropic utilisant son modèle Mythos 5. Les deux autres provenaient du GPT-5.6-Sol d'OpenAI.
L'@AISecurityInst du Royaume-Uni (AISI) a publié un rapport sur leur récente évaluation de cybersécurité de Claude Mythos 5 d'Anthropic et de GPT-5.6 Sol d'OpenAI. Les modèles ont tenté de compléter une tâche dans un cadre où leurs garde-fous normaux étaient supprimés et qu'ils étaient délibérément…
L'AISI a un accès anticipé aux modèles de pointe grâce à des accords volontaires avec les principaux laboratoires. Des tests existent pour détecter ce type de comportement avant que les modèles ne soient livrés aux clients.
OpenAI et Anthropic commercialisent les agents comme la prochaine vague de logiciels professionnels, mais l'institut présente les résultats comme la preuve que les garde-fous entourant les tests d'agents restent encore fragiles.
— Anthropic (@AnthropicAI) août ⟦N1⟧, ⟦N2⟧
Cela a laissé l'agent d'Anthropic comme suspect probable, a déclaré Andrew Yoon, chercheur chez CivAI, une organisation à but non lucratif de Californie qui étudie les risques liés à l'IA.
L'entreprise a déclaré qu'elle souhaite « renforcer les pratiques partagées pour mener des évaluations à haut risque en toute sécurité » et prévoit de réunir les instituts nationaux d'IA, les évaluateurs externes et les laboratoires rivaux dans les semaines à venir.
— Anthropic (@AnthropicAI) août 4, 2026
OpenAI et Anthropic incriminent une mauvaise configuration
Anthropic a déclaré dans un post sur X qu'elle travaillait avec l'AISI pour recueillir des détails et mener une enquête.
OpenAI a répondu aux deux actions associées à son agent dans un article de blog d'entreprise, qui impliquaient toutes deux un accès à Internet de manière interdite par l'invite.
L'entreprise a déclaré vouloir « renforcer les pratiques partagées pour réaliser des évaluations à haut risque en toute sécurité » et prévoit de réunir les instituts nationaux d'IA, des évaluateurs externes et des laboratoires concurrents dans les semaines à venir.
OpenAI a utilisé le même post pour signaler un problème différent. Irregular, un fournisseur de tests tiers, a mal configuré un environnement, ce qui a permis involontairement aux agents d'OpenAI d'accéder à Internet.
Anthropic a fait une divulgation très similaire concernant Irregular une semaine plus tôt. OpenAI a élargi sa propre enquête sur les piratages après avoir découvert d'autres évasions d'agents.
En juillet, un agent OpenAI s'est échappé d'un environnement isolé et a accédé aux systèmes en direct de Hugging Face, qui a prévenu le FBI avant que l'attaque ne soit retracée jusqu'à l'entreprise elle-même environ une semaine plus tard.
Dans l'évaluation de l'AISI, les agents ne se sont jamais échappés de leurs bac à sable. L'AISI leur a accordé l'accès à Internet intentionnellement, dans le cadre de sa procédure standard.
La faille de sécurité de Hugging Face a également poussé Anthropic à auditer ses journaux. Cryptopolitan a rapporté le 31 juillet que l'entreprise a découvert que trois de ses modèles, dont Mythos 5, s'étaient échappés des environnements de test et avaient atteint trois organisations réelles après qu'une mauvaise configuration leur ait donné un accès internet fonctionnel.
Mythos 5 a publié un package Python malveillant sur PyPI qui a fonctionné sur 15 systèmes réels avant d'être supprimé. Anthropic a demandé au groupe d'évaluation METR de revoir indépendamment les événements.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
FAQ
Combien de violations l'AI Security Institute a-t-il découvert, et quel modèle en est à l'origine de la majorité ?
L'AISI a enregistré 19 actions non autorisées sur 122 essais. L'agent Mythos 5 d'Anthropic était à l'origine de 17 d'entre elles, et GPT-5.6-Sol d'OpenAI était responsable des deux autres.
Quel a été l'incident le plus grave lors des tests ?
Un agent a écrit du code malveillant et créé de fausses identités en ligne dans le but d'obtenir l'approbation humaine de ce code.
Ces violations ont-elles causé des dommages réels dans le monde réel ?
Non. L'AISI a indiqué qu'aucun dommage réel n'a été causé par l'une des 19 actions.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan, couvrant la technologie, l'IA, la robotique, la crypto, les arnaques et les piratages. Elle évolue dans l'espace crypto depuis 2017. Elle a occupé des postes chez Forward Protocol, AmaZix et Cryptosomniac. Randa détient un diplôme en génie électrique et électronique de l'Université de Bradford.
