Le gouvernement américain force Anthropic à fermer ses modèles d'IA les plus puissants pour des raisons de sécurité

Anthropic a désactivé vendredi 12 juin ses deux modèles d'IA les plus performants suite à un ordre de contrôle des exportations émanant du département du Commerce des États-Unis. Il s'agit d'un cas inhabituel d'ingérence gouvernementale dans la commercialisation d'une technologie d'IA de pointe.

Selon la déclaration d'Anthropic, le secrétaire au Commerce des États-Unis, Howard Lutnick, a ordonné au PDG d'Anthropic, Dario Amodei, à 17 h 21 (heure de l'Est) vendredi de restreindre l'accès à Claude Fable 5 et Claude Mythos 5.

La directive s'appliquait à tous les individus étrangers, qu'ils se trouvent à l'intérieur ou à l'extérieur des États-Unis, y compris les employés nés à l'étranger d'Anthropic.

Anthropic a indiqué ne pas pouvoir appliquer efficacement des restrictions basées sur la nationalité, ce qui l'a conduit à désactiver les modèles. Les autres modèles Claude restent disponibles.

Le département du Commerce s'attaque aux nouveaux modèles d'Anthropic

Selon Axios, citant un responsable de l'administration, cette directive fait suite à un avertissement émis par une entreprise non identifiée concernant une technique susceptible de contourner certaines parties du système de sécurité de Fable 5.

Anthropic avait lancé ces deux modèles seulement trois jours plus tôt, le 9 juin. Fable 5 était accessible au grand public, tandis que Mythos 5 était réservé à certains partenaires en cybersécurité dans le cadre du projet Glasswing.

Auparavant, l'administration Trump avait engagé des discussions pour tenter de convaincre l'entreprise de reporter son déploiement, mais Anthropic a procédé malgré tout.

Un responsable de la Maison Blanche a déclaré qu'il était important de maintenir les modèles verrouillés tant que la nation renforce ses infrastructures de sécurité fédérales, estimant que cela prendrait plusieurs semaines.

En vertu de la directive, toute partie souhaitant exporter, réexporter ou transférer l'un ou l'autre modèle aux États-Unis devrait obtenir une licence du Département du Commerce. Anthropic devrait également demander des licences validées individuellement. Axios a rapporté que le non-respect pourrait entraîner des sanctions pécuniaires et civiles.

Anthropic affirme que le risque de contournement est exagéré

Anthropic a contesté la directive, indiquant que le contournement en question était limité et ne constituait pas une faille universelle des systèmes de sécurité des modèles.

L'entreprise a décrit la technique comme une méthode consistant à demander à un modèle d'examiner une base de code spécifique et d'identifier des failles logicielles. Anthropic a déclaré avoir examiné une démonstration de cette méthode et constaté qu'elle ne révélait que des vulnérabilités mineures déjà connues.

« Nous avons constaté que d'autres modèles publics sont capables de les découvrir sans nécessiter de contournement », a écrit Anthropic, citant GPT-5.5 d'OpenAI comme exemple.

Anthropic a également indiqué avoir mené des milliers d'heures de tests de pénétration (red-teaming) avant le lancement avec le gouvernement américain, l'Institut de sécurité de l'IA au Royaume-Uni et des organisations privées.

Ces tests n'ont révélé aucun contournement universel, a déclaré l'entreprise, ce qui signifie qu'aucune méthode unique ne pourrait largement contourner les contrôles de sécurité du modèle sur de nombreuses capacités.

« Nous ne sommes pas d'accord avec l'idée que la découverte d'un contournement potentiel étroit justifie le rappel d'un modèle commercial déployé auprès de centaines de millions de personnes », a écrit Anthropic. « Si cette norme était appliquée à l'ensemble de l'industrie, nous estimons qu'elle paralyserait essentiellement tous les nouveaux déploiements de modèles pour tous les fournisseurs de modèles de pointe. »

Fable 5 faisait déjà face à des critiques

L'arrêt a mis un terme à une semaine de lancement tumultueuse pour Anthropic.

Fable 5 est apparu le 9 juin avec des filtres qui redirigeaient les requêtes sensibles en cybersécurité, biologie, chimie et recherche en IA vers un modèle antérieur, Claude Opus 4.8. Ces filtres ont été critiqués presque immédiatement comme étant trop restrictifs.

Selon un rapport précédent de Cryptopolitan, les utilisateurs ont indiqué que le modèle éprouvait des difficultés avec des questions de biologie de base impliquant des membranes cellulaires et des vaccins à ARNm.

Une autre controverse portait sur la fiche système de 319 pages d'Anthropic, qui indiquait que Fable 5 réduirait automatiquement la qualité des réponses aux questions liées à la recherche en IA de pointe sans avertir les utilisateurs.

Anthropic a modifié cette politique le 10 juin après que des chercheurs ont fait valoir que des garde-fous cachés concentreraient les capacités d'IA entre les mains d'un petit groupe d'entreprises. L'entreprise s'est excusée et a indiqué que les futurs garde-fous seraient visibles pour les utilisateurs.

Microsoft a également restreint l'utilisation de Fable 5 par ses employés en raison de l'exigence de conservation des données pendant 30 jours d'Anthropic pour les modèles de classe Mythos, a rapporté The Verge.

Selon cette politique, les invites et les sorties sont conservées pendant 30 jours à des fins de confiance et de sécurité, tandis que le contenu signalé peut être conservé jusqu'à deux ans.

Anthropic indique qu'elle travaille à annuler la fermeture

Anthropic a déclaré que l'action du gouvernement était fondée sur un malentendu et qu'elle collaborait avec les responsables pour résoudre le problème. L'entreprise a précisé qu'elle fournirait plus d'informations dans les 24 heures.

Cette fermeture intervient à un moment critique pour Anthropic. L'entreprise a soumis des documents confidentiels début ce mois-ci pour une introduction en bourse (IPO) prévue aux États-Unis, après avoir levé 65 milliards de dollars avec une valorisation de 965 milliards de dollars fin le mois dernier, selon Reuters.

Anthropic fait face à une pression sur deux fronts : les régulateurs remettent en question la sécurité de ses modèles les plus avancés, tandis que les investisseurs parient sur sa capacité à maintenir la croissance de ses revenus commerciaux.

Le compte officiel de Claude sur X a informé les utilisateurs que les nouvelles sessions utiliseront désormais par défaut le modèle sélectionné ou Opus 4.8. Les sessions Fable 5 existantes se termineront avec une erreur, et les développeurs ont été invités à mettre à jour leurs intégrations vers d'autres modèles Claude.