Le gouvernement américain contraint Anthropic à fermer ses modèles d'IA les plus puissants par crainte pour la sécurité

Anthropic a désactivé ses deux modèles d'IA les plus performants le vendredi 12 juin suite à une injonction du département du Commerce américain relative au contrôle des exportations. Il s'agissait d'un cas inhabituel d'ingérence gouvernementale dans la commercialisation de technologies d'IA de pointe.

Le secrétaire américain au Commerce, Howard Lutnick, a ordonné vendredi à 17h21 heure de l'Est au PDG d'Anthropic, Dario Amodei, de restreindre l'accès à Claude Fable 5 et Claude Mythos 5, selon un communiqué d'Anthropic.

La directive s'appliquait à toutes les personnes étrangères, qu'elles se trouvent à l'intérieur ou à l'extérieur des États-Unis, y compris les employés d'Anthropic nés à l'étranger.

Anthropic a déclaré ne pas pouvoir appliquer efficacement les restrictions fondées sur la nationalité et a donc désactivé les modèles concernés. Les autres modèles Claude restent disponibles.

Le ministère du Commerce prend des mesures contre les nouveaux modèles d'Anthropic

Cette directive faisait suite à un avertissement d'une entreprise non identifiée concernant une technique permettant de contourner certaines parties du système de sécurité de Fable 5, a rapporté Axios, citant un responsable de l'administration.

Anthropic avait sorti les deux modèles seulement trois jours auparavant, le 9 juin. Fable 5 était disponible pour tous, tandis que Mythos 5 était réservé à certains partenaires de cybersécurité dans le cadre du projet Glasswing.

Avant cela, l'administration Trump avait entamé des discussions pour tenter de persuader l'entreprise de reporter son lancement, mais Anthropic a poursuivi malgré tout.

Un responsable de la Maison Blanche a déclaré qu'il était important de garder les modèles confidentiels pendant que le pays renforce son infrastructure de sécurité fédérale et a ajouté qu'il pensait que cela prendrait des semaines.

Conformément à cette directive, toute personne souhaitant exporter, réexporter ou transférer l'un ou l'autre modèle aux États-Unis devra obtenir une licence du département du Commerce. Anthropic devra également solliciter des licences individuelles. Le non-respect de ces exigences pourrait entraîner des sanctions financières et civiles, selon Axios.

Anthropic affirme que le risque d'évasion est surestimé

Anthropic a contesté cette directive, affirmant que le contournement en question était limité et ne constituait pas un déblocage universel des systèmes de sécurité des modèles.

L'entreprise a décrit cette technique comme consistant à demander à un modèle d'analyser un code source spécifique et d'dentles failles logicielles. Anthropic a indiqué avoir examiné une démonstration de la méthode et constaté qu'elle n'avait révélé que des vulnérabilités mineures déjà connues.

« Nous avons constaté que d'autres modèles disponibles publiquement sont également capables de les découvrir sans nécessiter de contournement », a écrit Anthropic, citant GPT-5.5 d'OpenAI comme exemple.

Anthropic a également indiqué avoir mené des milliers d'heures d'exercices de simulation d'attaques avant le lancement, en collaboration avec le gouvernement américain, l'Institut britannique de sécurité de l'IA et des organisations privées.

Ces tests n'ont révélé aucune faille de sécurité universelle, a indiqué la société, ce qui signifie qu'aucune méthode unique ne permet de contourner largement les contrôles de sécurité du modèle et ses nombreuses fonctionnalités.

« Nous contestons que la découverte d'une faille potentielle, même minime, justifie le retrait d'un modèle commercial déployé auprès de centaines de millions de personnes », a écrit Anthropic. « Si cette norme était appliquée à l'ensemble du secteur, nous pensons qu'elle bloquerait de facto tout nouveau déploiement de modèle pour tous les fournisseurs de modèles innovants. »

Fable 5 faisait déjà face à des critiques

Cette fermeture a mis un terme à une semaine de lancement mouvementée pour Anthropic.

Fable 5 a été lancé le 9 juin avec des filtres qui redirigeaient les requêtes sensibles en cybersécurité, biologie, chimie et recherche en IA vers un modèle antérieur, Claude Opus 4.8. Ces filtres ont été critiqués presque immédiatement comme étant trop restrictifs.

D’après un précédent rapport de Cryptopolitan, les utilisateurs ont indiqué que le modèle avait des difficultés à répondre à des questions de biologie fondamentale concernant les membranes cellulaires et les vaccins à ARNm.

Une autre controverse portait sur la fiche système de 319 pages d'Anthropic, qui indiquait que Fable 5 réduiraitmaticla qualité des réponses aux questions liées à la recherche de pointe en IA sans avertir les utilisateurs.

Anthropic a modifié sa politique le 10 juin suite aux arguments de chercheurs selon lesquels des mesures de protection invisibles concentreraient les capacités d'IA entre les mains d'un petit groupe d'entreprises. L'entreprise a présenté ses excuses et a indiqué que les futures mesures de protection seraient visibles pour les utilisateurs.

Microsoft a également restreint l'utilisation de Fable 5 par ses employés en raison de l'exigence de conservation des données de 30 jours imposée par Anthropic pour les modèles de classe Mythos, a rapporté The Verge.

Conformément à cette politique, les invites et les résultats sont stockés pendant 30 jours à des fins de confiance et de sécurité, tandis que le contenu signalé peut être conservé jusqu'à deux ans.

Anthropic affirme travailler à annuler la suspension

Anthropic a déclaré que la décision du gouvernement était fondée sur un malentendu et qu'elle collaborait avec les autorités pour résoudre le problème. L'entreprise a indiqué qu'elle fournirait de plus amples informations dans les 24 heures.

Cette fermeture survient à un moment critique pour Anthropic. La société a soumis des documentsdentau début du mois en vue d'une introduction en bourse aux États-Unis, après avoir levé 65 milliards de dollars à la fin du mois dernier, pour une valorisation de 965 milliards de dollars, selon Reuters.

Anthropic est désormais confrontée à des pressions sur deux fronts : les autorités réglementaires s'interrogent sur la sécurité de ses modèles les plus avancés, tandis que les investisseurs parient sur sa capacité à maintenir la croissance de ses revenus commerciaux.

Le compte officiel de Claude sur X a informé les utilisateurs que les nouvelles sessions se lanceront désormais par défaut sur le modèle sélectionné ou sur Opus 4.8. Les sessions Fable 5 existantes se termineront par une erreur, et il a été conseillé aux développeurs de mettre à jour leurs intégrations vers d'autres modèles Claude.