Anthropic remporte une victoire juridique majeure alors qu'un juge annule la liste noire de l'IA du Pentagone

La juge fédérale Rita Lin vient de statuer que le Pentagone a illégalement pénalisé Anthropic avec sa désignation de « risque de chaîne d'approvisionnement ». Plus tôt cette année, le Pentagone avait qualifié l'entreprise de risque pour la sécurité nationale après l'échec des négociations. À l'époque, Anthropic insistait toujours sur des garde-fous éthiques interdisant la surveillance de masse et la guerre entièrement automatisée. 

Le tribunal a désormais constaté que le Département de la Défense a instrumentalisé son autorité sur la chaîne d'approvisionnement pour discipliner publiquement Anthropic, notant que le gouvernement ne disposait d'aucune justification logique à sa revendication de sécurité nationale.

« Ni la Constitution ni la loi fédérale invoquée par les Défendeurs ne leur permettent d'imposer des sanctions généralisées basées principalement sur la critique d'Anthropic des vues de l'Administration », a soutenu la juge Lin.

La juge Lin a critiqué la décision du gouvernement de mettre Anthropic sur liste noire comme étant arbitraire

Pendant un certain temps, le Pentagone avait été en négociation avec quatre grandes entreprises d'IA, dont Anthropic, concernant l'autorisation pour l'armée d'utiliser leurs technologies pour des opérations de défense et de renseignement hautement sensibles. Le créateur de Claude, cependant, a maintenu sa position, affirmant que la surveillance de masse et la guerre autonome étaient hors limites pour ses modèles.

Après des pourparlers de plus en plus tendus, les négociations ont complètement échoué. Anthropic a par la suite été nommée risque de chaîne d'approvisionnement en mars, une première pour une entreprise américaine, bloquant effectivement les entrepreneurs de la défense d'utiliser sa technologie sur des projets liés au Pentagone.

Plus tard, Anthropic a contesté l'administration Trump devant les tribunaux de San Francisco et de Washington, D.C., cherchant à annuler sa désignation de risque de chaîne d'approvisionnement. Le DOD, cependant, s'est appuyé sur deux autorités juridiques différentes, forçant Anthropic à poursuivre des affaires séparées dans deux tribunaux.

 Bien que la décision de jeudi ait été une victoire massive pour Anthropic, son cas parallèle à D.C. reste actif, ce qui signifie que le statut de risque de sécurité de l'entreprise n'est pas encore entièrement levé.

La juge Lin a écrit dans sa décision : « Le dossier incontesté montre que les actions contestées constituaient une représaille illégale en violation du Premier Amendement, et qu'Anthropic s'est vu refuser le processus préalable requis en vertu du Cinquième Amendement. » Elle a également qualifié la décision du gouvernement d'arbitraire et capricieuse. 

La décision pourrait établir un précédent pour les différends IA-gouvernement

La décision pourrait ne pas avoir de ligne de vue claire ; cependant, le cas d'Anthropic aura des implications plus immédiates : le gouvernement américain cherche à approfondir ses liens avec les entreprises d'IA pour la défense et la sécurité nationale.

Ce cas montre que, face à des demandes gouvernementales toujours plus grandes d'accès à des systèmes d'IA avancés que les entreprises cherchent à protéger, la question de la manière et du pourquoi utiliser les modèles est remise en question.

La position d'Anthropic sur la surveillance de masse et les armes autonomes l'a placée au centre de ce débat. Les entreprises d'IA fournissent de plus en plus aux gouvernements des modèles puissants, mais la décision suggère que les agences fédérales ne peuvent pas simplement punir une entreprise pour avoir désapprouvé la politique gouvernementale sans respecter les exigences légales régissant de telles actions.

L'affaire pourrait également rendre d'autres développeurs d'IA plus disposés à imposer des limites claires aux applications militaires. En même temps, le Pentagone pourrait devoir repenser la manière dont il gère les entreprises qui imposent des restrictions sur l'utilisation de leurs technologies, en particulier lorsque ces restrictions concernent des applications de sécurité nationale controversées.

Anthropic a depuis salué la décision de Lin. Elle a noté : « Nous accueillons favorablement la décision du tribunal selon laquelle cette désignation de risque de chaîne d'approvisionnement était illégale. Nous restons concentrés sur le travail productif avec le gouvernement pour exploiter l'IA pour notre sécurité nationale afin que tous les Américains bénéficient de cette technologie. »

Auparavant, l'entreprise avait également déclaré qu'elle avait intenté les poursuites pour revenir à une situation normale, plutôt que pour forcer le Pentagone à reprendre son partenariat.

Anthropic introduit une nouvelle norme matérielle

Pendant ce temps, Anthropic vient de développer une nouvelle norme qui pourrait aider les assistants IA à se connecter aux robots et aux équipements spécialisés utilisés dans les laboratoires et les usines. L'entreprise lance la Norme Matérielle de Modèle (MHS) en tant qu'aperçu de recherche, offrant aux développeurs de robotique, de science et d'usines la possibilité de tester les interactions réelles de Claude et de résoudre les bugs de sécurité avant un lancement complet. 

Selon l'entreprise, la norme donnera aux assistants IA un ensemble clair d'instructions pour comprendre et utiliser des équipements physiques, plutôt que de les forcer à s'appuyer sur des manuels ou un petit groupe de spécialistes. Elle a également déclaré que les entreprises et autres parties prenantes de l'industrie peuvent s'inscrire pour tester la MHS pendant sa phase d'aperçu. Elle prévoit d'ouvrir le cadre une fois l'aperçu terminé, mais n'a pas précisé quand cela se produira. 

« Avec la MHS, Claude peut être ce type de facilitateur pour les scientifiques, car ils peuvent utiliser le bon équipement de manière experte », a déclaré Jonah Cool, responsable des partenariats et du déploiement au sein de la branche sciences de la vie d'Anthropic. 

S'appuyant sur le succès passé, l'entreprise a introduit le Protocole de Contexte de Modèle (MCP) pour combler le fossé entre les assistants IA et des logiciels tels que Google Calendar et Slack. 

« Ce que le MCP a fait pour les logiciels, la MHS le fera pour le monde matériel », a déclaré Alek Kemeny, membre du personnel technique chez Anthropic.