Anthropic envoie ses meilleurs experts en sécurité à Washington pour sauver ses modèles phares

Suite à un rapport de Cryptopolitan concernant une interdiction fédérale d'exportation imposée sur la vente de son logiciel d'IA aux utilisateurs qui ne sont pas des Américains, Anthropic a déployé des chercheurs en sécurité et des modèles d'IA à Washington.

Les réunions de lundi ont été les premières discussions en face à face entre la startup et les hauts fonctionnaires de l'administration Trump depuis l'entrée en vigueur de l'ordre.

La Maison-Blanche ne s'attend pas à ce que le litige disparaisse dans les prochains jours, bien que les fonctionnaires n'aient pas exclu un règlement rapide.

Selon Politico, un haut fonctionnaire a rejeté la responsabilité sur l'entreprise, déclarant : « Cela dépend d'Anthropic. » La restriction a été introduite en raison de faiblesses de sécurité potentielles dans le nouveau modèle et bloque désormais l'accès des utilisateurs non américains à la technologie de pointe de l'entreprise.

Anthropic envoie son équipe de sécurité pour expliquer les défenses du modèle

Anthropic a passé le week-end à essayer d'empêcher l'aggravation du problème, alors que le cofondateur Tom Brown et Sarah Heck, qui dirige la politique publique de l'entreprise, ont participé à de longs appels avec le secrétaire au Commerce Howard Lutnick et le directeur national de la cybersécurité Sean Cairncross.

Ces communications ont conduit à des réunions le lundi impliquant le département du Commerce et le bureau de Cairncross. Le personnel a pris en charge les discussions. L'un de ces fonctionnaires était Chris Fall, qui dirige le Centre pour les normes et l'innovation en IA au département du Commerce.

Lors de la réunion, Anthropic a présenté en détail aux fonctionnaires fédéraux les mesures de sécurité entourant le modèle. Il a parlé de systèmes de test, de recherche de vulnérabilités et de limitation des comportements indésirables avant la mise sur le marché du produit. Cela visait à convaincre Washington qu'il pouvait proposer le modèle à l'étranger sans présenter de menace pour la sécurité nationale.

L'entreprise a envoyé Logan Graham de l'équipe Frontier Red Team, où il teste les systèmes en essayant de contourner leurs protections. Dave Orr, le responsable des sauvegardes, l'a rejoint. Nicholas Carlini, le principal chercheur en sécurité de l'entreprise, faisait également partie de la délégation.

L'action gouvernementale a déjà supprimé l'accès étranger aux modèles les plus puissants d'Anthropic. Elle a également créé une incertitude quant à la capacité des fonctionnaires fédéraux d'empêcher la sortie d'une IA après qu'une entreprise ait suivi un système de révision volontaire.

Les responsables de Trump défendent l'ordre tandis que les dirigeants de l'industrie mettent en garde contre des dommages plus larges

Le dernier ordre exécutif d'IA de Trump a demandé aux grandes entreprises technologiques d'envoyer leurs nouveaux modèles pour évaluation gouvernementale 30 jours avant leur sortie. La participation était entièrement volontaire. Dans sa forme finale, l'ordre a abandonné les propositions précédentes qui auraient obligé les modèles d'IA à subir une approbation ou une licence gouvernementale avant leur lancement.

David Sacks, un capital-risqueur qui a conseillé l'administration Trump sur l'IA, avait participé à l'élaboration de la politique et conserve encore des liens avec le président. La mesure contre Anthropic a suscité des inquiétudes au sein de l'administration quant au développement secret par le gouvernement d'un processus d'approbation que l'ordre cherchait à éviter.

Selon Kush Desai, porte-parole de la Maison-Blanche, l'administration travaille avec les dirigeants de l'industrie de l'IA pour s'assurer que l'innovation et les intérêts de sécurité nationale sont pris en compte.

Kush a également déclaré : « Les États-Unis sont de loin le leader mondial dans la course à l'IA mondiale, et le président Trump s'engage à assurer la domination technologique de l'Amérique. »

Un fonctionnaire de l'administration a déclaré que le conflit pourrait toujours s'inscrire dans l'ordre exécutif si la restriction prend fin rapidement. « Si cela se dissipe, si les restrictions sont levées demain, alors je dirais : 'D'accord, c'est encore assez cohérent avec l'ordre exécutif, et nous continuerons comme ça », a déclaré le fonctionnaire.

La même personne a tracé une ligne plus dure si l'interdiction persistait. « Si la situation est toujours aussi f***** dans une semaine, alors je pense que nous avons une compréhension claire de ce qui se passe. »

Cet fonctionnaire aurait qualifié un affrontement prolongé de « gros problème » pour le secteur américain de l'IA et a averti que chaque futur développeur de modèles pourrait finir par demander l'autorisation à Washington avant le lancement. « C'est une situation extrêmement mauvaise, et cela paralyserait complètement toute l'industrie », a déclaré le fonctionnaire. « Cela mettrait vraiment toute l'industrie de l'IA en position de désavantage et poserait un problème de recrutement et de rétention pour les chercheurs en IA. »