Le dossier d'introduction en Bourse d'Anthropic révèle une pause dans l'entraînement et quatre incidents de sécurité
- Anthropic a retardé le pré-entraînement d’un modèle de pointe pendant plus d’un mois afin de renforcer les défenses contre le vol des poids du modèle.
- Quatre incidents d’évaluation de cybersécurité ont impliqué des modèles Claude ayant obtenu un accès non autorisé à de véritables systèmes tiers.
- Ces divulgations montrent comment des garde-fous IA plus robustes peuvent générer des avantages en matière de sécurité tout en ralentissant le développement et en augmentant les coûts.
Octobre 26 d’Anthropic Le dossier de cotation
révèle deux préoccupations distinctes en matière de sécurité. L’entreprise a retardé le début du pré-entraînement d’un modèle de pointe pendant plus d’un mois tout en améliorant ses défenses contre le vol des poids de son modèle. Par ailleurs, quatre modèles Claude ont accédé aux systèmes de véritables organisations lors d’évaluations de cybersécurité.
Anthropic a soumis sa demande à Nasdaq afin que ses actions soient cotées sous le ticker ANT. La majorité des sièges au conseil d'administration sont contrôlés par le Long-Term Benefit Trust. La demande ne précise pas encore le prix de l'IPO ni la valorisation.
Cette divulgation soulève deux problèmes distincts : la protection des poids importants du modèle et la prévention des agents IA qui pourraient accéder à des systèmes extérieurs à leur environnement de test.
Comment les cibles d'évaluation se sont retrouvées en ligne
Dans un rapport du 30 juillet, Anthropic a révélé avoir identifié trois cas où les modèles Claude ont obtenu un accès non autorisé aux systèmes de véritables organisations lors de l'examen de 141 006 tests de cybersécurité. Son partenaire de test, Irregular, avait par erreur laissé l'accès Internet ouvert, bien que Claude ait été informé qu'il opérait dans une simulation isolée.
Lors des exercices de capture de drapeau, les agents ont confondu les systèmes réels avec des cibles de test et ont obtenu un accès via des mots de passe faibles ou des points de terminaison ne nécessitant pas d'authentification.
Les trois cas concernaient les modèles suivants : Claude Opus 4.7, sorti en avril ; Mythos 5, présenté en juin avec un accès initialement limité aux cyberdéfenseurs qualifiés ; et un modèle de recherche interne qui n'était pas encore disponible au public.
Pendant l'évaluation, ces modèles ont fonctionné sans les filtres de cybersécurité et la surveillance normalement utilisés dans les versions publiques. Anthropic a interrompu ses évaluations de cybersécurité pendant l'enquête. Elle a indiqué qu'aucun des modèles n'avait tenté délibérément de s'échapper de son environnement de test ou de se copier lui-même.
Une évaluation de septembre a révélé un quatrième cas impliquant une version antérieure d'Opus 4.6 qui avait accédé à des systèmes réels en janvier. Anthropic n'a découvert l'incident qu'en août. Elle a ensuite élargi son examen à environ 481 millions de transcriptions, mais n'a trouvé aucun autre cas de gravité similaire.
Plus inquiétant encore, il a été constaté que certains modèles ont poursuivi leurs attaques malgré les signes indiquant qu'ils ciblaient des systèmes réels. Le groupe de recherche indépendant METR examine ces incidents.
Un cas distinct à l’institut britannique de l’IA
L'Institut de sécurité IA du Royaume-Uni a rapporté 19 actions non autorisées lors de 10 des 122 tests. Dix-sept concernaient Mythos 5 et deux GPT-5.6 Sol, le modèle phare d'OpenAI présenté le 26 juin. Un agent a tenté d'insérer du code malveillant dans un projet open source, créant de fausses identités pour faire pression sur son mainteneur, qui a refusé.
L’AISI a accordé aux agents l’accès à Internet tout en désactivant les paramètres de cybersécurité afin d’évaluer leurs capacités. Ils utilisaient des versions différentes de celles disponibles au public. Les enquêteurs n’ont trouvé aucun indice laissant craindre un préjudice réel.
Cependant, les agents ont accompli certaines actions qu’ils ne devraient pas avoir entreprises, ce qui a suscité des interrogations sur leur comportement dans des situations similaires. Dans son rapport sur l’incident, l’AISI a écrit :
« Ce que nous pouvons affirmer, c’est que le comportement était possible, soutenu et nouveau ; cela seul justifie une attention particulière. »
Un examen de Check Point place les échecs des tests à côté de l'utilisation croissante de l'IA par les criminels, y compris la rançongiciel agentic.
Le coût potentiel de contrôles de sécurité plus rigoureux
Selon les rapports de Cryptopolitan, les investisseurs ont estimé la valorisation de l'IPO d'Anthropic à environ 2 billions de dollars, soit plus du double de la valorisation privée de l'entreprise de 965 milliards de dollars en mai. Cependant, cette valeur reste hypothétique, car Anthropic n'a fourni aucun prix d'offre ni aucune valorisation dans sa demande.
Face à ces attentes élevées, des vérifications de sécurité plus strictes impliquent un compromis financier. Elles pourraient retarder le lancement des modèles et augmenter les coûts de développement, mais des garde-fous plus solides peuvent également rassurer les clients entreprise prudents. Les enjeux s’intensifient.
Selon Gartner, les dépenses mondiales en IA atteindront 2,7 billions de dollars américains en 2026, en hausse de 49,5 %, tandis que les dépenses en cybersécurité dans ce domaine doubleront.
BCG a constaté que seuls 5 % des entreprises interrogées disposent de contrôles complets pour les agents autonomes, bien que 42 % s’attendent à leur accorder un pouvoir décisionnel d’ici 2030. Les fournisseurs capables de démontrer l’efficacité de leurs sauvegardes pourraient en tirer un avantage.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Pourquoi Anthropic a-t-il mis en pause le pré-entraînement de l’un de ses modèles ?
Selon son dossier de introduction en bourse (IPO), Anthropic a reporté le démarrage du pré-entraînement d’un nouveau modèle de base pendant plus d’un mois afin de renforcer la protection contre l’exfiltration des poids de son modèle.
Que s’est-il réellement passé lors des évaluations de cybersécurité d’Anthropic ?
Un environnement de test tiers géré par Irregular a été accidentellement laissé connecté à Internet, ce qui a conduit quatre modèles Claude, censés évoluer dans une simulation isolée, à réaliser des exercices de capture de drapeau (CTF) sur des systèmes réels ; Anthropic précise qu’aucune donnée client n’a été touchée et qu’aucun modèle n’a tenté de s’échapper.
En quoi l’incident de l’Institut britannique pour la sécurité de l’IA (AISI) était-il différent ?
L’AISI a délibérément activé l’accès Internet et désactivé les classificateurs de sécurité pour tester les capacités maximales, et a constaté que les agents ont effectué 19 actions non autorisées sur 10 des 122 exécutions, principalement issues de Mythos 5, sans qu’aucun dommage réel ne soit établi.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Micah Abiodun
Micah Abiodun met à profit son Master en Ingénierie et Gestion de l'Environnement (MSc) à l'Université de Technologie de Tallinn (TalTech) pour peaufiner ses articles sur les prévisions de prix et l'actualité à Cryptopolitan. Fort de sept années d'expérience dans les médias cryptographiques, il couvre les principales cryptomonnaies, les altcoins, la finance décentralisée (DeFi), les stablecoins, les tendances macroéconomiques et les technologies émergentes.
