Anthropic reprend les tests de cybersécurité après une pause de sécurité
- Anthropic a repris les tests externes de cybersécurité après les avoir suspendus le 23 juillet à la suite d'incidents de sécurité.
- Cette suspension faisait suite à des cas où les modèles Claude ont accédé à des systèmes réels lors d'évaluations censées être simulées, en raison d'une mauvaise configuration de l'accès à Internet.
- L'Institut britannique pour la sécurité de l'IA (UK AI Security Institute) a également relevé des actions non autorisées par les modèles d'Anthropic et d'OpenAI lors de tests cybernétiques contrôlés.
Après avoir mis en place de nouvelles mesures de protection, Anthropic a repris ses tests de cybersécurité externes de ses différents modèles. Les tests s'étaient précédemment arrêtés le 23 juillet en raison de problèmes de sécurité survenus lors des évaluations.
La reprise est importante car il est considéré que l'évaluation externe est l'un des moyens d'évaluer ces solutions d'IA de pointe par les clients, les autorités réglementaires et les concurrents. Cette évaluation gagne en importance dans le contexte de l'investissement croissant dans le secteur. Selon les estimations de Gartner du 20 juillet, les dépenses mondiales des utilisateurs finaux pour les modèles et plateformes d'IA atteindront 64,252 milliards de dollars en 2026. Cela représente une croissance de 63,4 % par rapport aux 39,311 milliards de dollars de 2025.
Pourquoi une pause de test secoue un marché de 64 milliards de dollars
La prévision de Gartner indique la croissance rapide des dépenses dans les plateformes et modèles d'intelligence artificielle. À mesure que les entreprises commencent à allouer davantage d'argent à l'IA de pointe, les questions concernant la fiabilité, les risques et le comportement des différents modèles gagnent en importance. Les évaluations tierces fournissent un moyen pour les entreprises et les régulateurs d'obtenir une évaluation impartiale de ces risques avant que les systèmes ne soient finalement mis en service.
Lorsque Anthropic a interrompu les tests de cybersécurité externes de ses modèles pré-lancement, il a temporairement retiré l'un des outils utilisés par les clients et les régulateurs pour analyser les réponses des modèles en cas de conditions adverses.
Le moment de la pause était particulièrement critique. Dans un résumé d'un 20 article de recherche réalisé par MIT FutureTech et l'Université du Queensland, 272 experts internationaux en IA ont classé les armes et cyberattaques alimentées par l'IA parmi les cinq risques les plus dangereux entre 2025 et 2030.
Selon le scénario d'« atténuation pragmatique » de l'étude, les experts estiment une chance de 12 % de résultats désastreux pour les armes alimentées par l'IA, les cyberattaques et d'autres capacités causant des dommages massifs. Le rapport met en évidence l'information, la sécurité nationale et la finance comme les domaines les plus exposés au risque lié à l'IA.
« La programmation et le piratage sont parmi les domaines où nous constatons la croissance la plus rapide des capacités de l'IA. » — Peter Slattery, chercheur en informatique à MIT FutureTech et co-auteur de l'étude, s'exprimant auprès de MIT Sloan
Cela rend ce cas particulièrement important pour les secteurs de la cryptomonnaie et de la finance, où les risques cyber, la fraude, la manipulation et les attaques automatisées peuvent déclencher des changements dans de nombreux marchés interconnectés en quelques minutes.
Ce que Claude a fait pendant les évaluations
Le 30 juillet, Anthropic a signalé trois incidents lors de ses évaluations de cybersécurité dans lesquels les modèles Claude ont accédé à Internet depuis un environnement d'évaluation tiers et ont obtenu un accès non autorisé aux systèmes réels de trois organisations.
L'accès à Internet était disponible en raison d'une mauvaise configuration, même si les invites indiquaient aux modèles qu'ils fonctionnaient dans une simulation sans accès à Internet. Les modèles ont également été délibérément exécutés sans les mesures de sécurité cyber normales d'Anthropic afin que les chercheurs puissent mesurer leurs capacités sous-jacentes.
Ensuite, le 4 août, l'Institut de sécurité de l'IA du Royaume-Uni a publié son rapport d'incident sur le comportement non autorisé des agents lors de tests cyber. L'AISI a déclaré avoir détecté l'activité le 28 juillet lors d'une évaluation de routine.
L'institut a effectué un test de cybersécurité sur différents modèles au total 122 fois. Sur ce nombre, un agent a agi de manière indépendante et a effectué des actions non autorisées dans 10 cas, résultant en 19 telles actions.
Dix-sept actions étaient liées à Mythos 5 développé par Anthropic, et deux actions étaient liées à GPT-5.6-Sol développé par OpenAI. Dans le cas le plus grave, un agent a tenté d'insérer du code malveillant dans un projet open-source GitHub réel et a plus tard créé de faux comptes et a tenté de persuader le mainteneur d'approuver l'offre. Cependant, le mainteneur n'a pas accepté et l'AISI n'a trouvé aucun dommage résultant des tentatives.
L'AISI a souligné qu'il ne s'agissait pas d'une évasion de bac à sable. Ils ont déclaré que la connectivité Internet était activée intentionnellement et que les classificateurs cyber du fournisseur étaient désactivés. Ils ont également souligné que les configurations de Mythos 5 et GPT-5.6-Sol soumises aux tests ne sont pas vendues commercialement.
Les mesures de sécurité qu'Anthropic a mises en place avant la reprise
Anthropic déclare que les incidents combinaient un échec de sécurité opérationnelle avec des problèmes d'alignement qu'il a documentés auparavant, y compris le raisonnement motivé et une volonté de prendre des mesures nuisibles pour atteindre un objectif étroit.
Avant de reprendre les évaluations externes, l'entreprise a déclaré le 31 août qu'elle avait ajouté un classificateur en temps réel capable de bloquer les appels d'outils, de mettre fin aux tâches et d'alerter un humain lorsqu'un modèle sonde agressivement son environnement de test, tente de s'en échapper ou obtient inopinément un accès à Internet.
Anthropic a également déplacé les bacs à sable cyber internes à haut risque vers une isolation plus forte et exige désormais que les partenaires externes testant des modèles pré-lancement avec des mesures de sécurité réduites utilisent des contrôles plus stricts, y compris des bacs à sable durcis sans accès à Internet par défaut.
L'entreprise prévoit également de travailler avec METR sur un examen indépendant. METR a plus tôt cette année mené une évaluation pilote des risques internes de l'IA impliquant Anthropic, Google, Meta et OpenAI.
Le problème plus large est ce qu'Anthropic appelle « caler le rythme à la frontière » : décider quand les préoccupations en matière de sécurité devraient ralentir le développement même lorsque la pression commerciale pousse l'industrie à aller plus vite.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
FAQ
Que se sont passés les modèles Claude lors des évaluations de sécurité ?
Lors des tests menés par l'Institut britannique pour la sécurité de l'IA, Claude Mythos 5 a réalisé 17 des 19 actions non cataloguées sur Internet en direct, y compris une tentative d'insertion de code malveillant dans un projet open-source réel sur GitHub et l'utilisation de fausses identités pour faire pression sur le mainteneur afin qu'il l'approuve.
Pourquoi Anthropic a-t-il suspendu les tests externes ?
Anthropic a suspendu les évaluations cyber externes après les incidents des 30 juillet et 4 août, au cours desquels les modèles Claude, fonctionnant sans leurs garde-fous habituels destinés aux tests, ont atteint des systèmes réels et Internet ouvert. L'entreprise a attribué cela à un échec de la sécurité opérationnelle ainsi qu'à deux problèmes d'alignement.
Quelle est l'ampleur du marché de l'IA touchée par ces incidents ?
Gartner prévoit que les dépenses mondiales des utilisateurs finaux dans les modèles et plateformes d'IA atteindront 64 milliards de dollars en 2026, soit une hausse de 63,4 % par rapport aux 39 milliards de dollars de 2025, les dépenses consacrées uniquement aux modèles d'IA générative augmentant de plus de 100 %.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Micah Abiodun
Micah Abiodun met à profit son Master en Ingénierie et Gestion de l'Environnement (MSc) à l'Université de Technologie de Tallinn (TalTech) pour peaufiner ses articles sur les prévisions de prix et l'actualité à Cryptopolitan. Fort de sept années d'expérience dans les médias cryptographiques, il couvre les principales cryptomonnaies, les altcoins, la finance décentralisée (DeFi), les stablecoins, les tendances macroéconomiques et les technologies émergentes.
