Anthropic défie l'ultimatum brutal du Pentagone visant à supprimer les garde-fous de l'IA

Anthropic a a déclaré elle ne reculera pas dans un conflit avec le département de la Défense des États-Unis (DoD) sur l'utilisation de sa technologie d'intelligence artificielle (IA).

Les rivals de la startup OpenAI, Google et xAI se sont également vu attribuer des contrats allant jusqu’à 200 millions de dollars par le département de la Défense l’année dernière. Ces entreprises ont accepté de permettre au département de la Défense d’utiliser leurs modèles à toutes fins légales au sein des systèmes non classifiés de l’armée.

Anthropic a signé son propre contrat de 200 millions de dollars avec le DoD en juillet, et a été le premier laboratoire à intégrer ses modèles dans les flux de travail de mission sur des réseaux classifiés.

Cependant, la startup d'intelligence artificielle a été engagée dans des négociations tendues avec le Pentagone ces dernières semaines. Une personne familiarisée avec les négociations a déclaré que les tensions « remontent à plusieurs mois », avant qu'il ne soit publiquement connu que Claude a été utilisé dans le cadre d'une opération américaine visant à arrêter le président vénézuélien Nicolás Maduro.

Le cœur du différend au cours surveillance et armes autonomes armes

Anthropic souhaite s'assurer que ses modèles ne seront pas utilisés pour des armes entièrement autonomes ou pour la surveillance nationale de masse des Américains, tandis que le DoD veut pouvoir utiliser les modèles sans ces restrictions.

Concernant ces risques spécifiques, Dario Amodei a déclaré dans son communiqué : « dans un ensemble restreint de cas, nous pensons que l’IA peut saper, plutôt que de défendre, les valeurs démocratiques. Certaines utilisations sont également simplement en dehors des limites de ce que la technologie actuelle peut faire de manière sûre et fiable. »

Développant les préoccupations liées à la surveillance, Dario Amodei a déclaré dans son communiqué que l'IA puissante permet de « assembler ces données éparses, individuellement inoffensives, en une image complète de la vie de toute personne, automatiquement et à une échelle massive ».

Il a noté que bien qu'Anthropic soutienne l'utilisation de l'IA pour le renseignement étranger légal, « l'utilisation de ces systèmes pour la surveillance nationale de masse est incompatible avec les valeurs démocratiques ».

Menaces, délais et guerre des mots

Le secrétaire à la Défense Pete Hegseth, qui a rencontré Amodei au Pentagone mardi, a menacé de qualifier Anthropic de « risque de chaîne d'approvisionnement » ou d'invoquer la loi sur la production de défense pour forcer l'entreprise à se conformer à ses exigences. Le département de la Défense a envoyé à Anthropic son « offre finale » mercredi soir, donnant à l'entreprise jusqu'à 17h01 HE vendredi pour décider.

Une porte-parole d'Anthropic a déclaré que bien que l'entreprise ait reçu une formulation mise à jour mercredi soir, elle représentait « pratiquement aucun progrès » et que « le nouveau langage présentait uncompromis accompagné de jargon juridique qui permettrait de contourner ces garanties à volonté ».

Face à ces pressions, Dario Amodei a déclaré dans son communiqué : « Le département de la Guerre a affirméqu'il ne contracterait qu'avec des entreprises d'IA qui acceptent « toute utilisation légale » et suppriment les garanties dans les cas mentionnés ci-dessus. Ils ont menacé de nous retirer de leurs systèmes si nous maintenons ces garanties ; ils ont également menacé de nous désigner comme un « risque de chaîne d'approvisionnement ». Néanmoins, ces menaces ne changent pas notre position : nous ne pouvons pas, en toute bonne conscience, céder à leur demande ».

Le porte-parole principal du Pentagone, Sean Parnell, a déclaré jeudi que le département de la Défense n'a « aucun intérêt » à utiliser les modèles d'Anthropic pour des armes entièrement autonomes ou pour mener une surveillance de masse des Américains, ce qu'il a noté être illégal. Il a souligné que l'agence souhaite que l'entreprise accepte de permettre l'utilisation de ses modèles à « toutes fins légales », qualifiant cela de « demande simple et sensée ».

Cependant, le sous-secrétaire d'État à la Défense Emil Michael a personnellement attaqué Amodei jeudi soir, écrivant sur X que le dirigeant « ne veut rien de plus que de tenter de contrôler personnellement l'armée américaine ». Michael a ajouté : « C'est une honte que Dario Amodei soit un menteur et ait un complexe de Dieu. »

D'autre part, dans une lettre ouverte, plus de 200 employés de Google et OpenAI ont soutenu la position d'Anthropic. Un ancien responsable du département de la Défense a également déclaré à la BBC que les justifications de Hegseth pour utiliser le terme « risque de chaîne d'approvisionnement » étaient « extrêmement fragiles ».

Malgré le conflit, Dario Amodei a déclaré dans son communiqué qu'il est « profondément conscient de l'importance existentielle d'utiliser l'IA pour défendre les États-Unis ». L'organisation est toujours « prête à poursuivre les discussions et engagée à assurer la continuité opérationnelle pour le département et les combattants américains », a déclaré un représentant d'Anthropic.