Le Pentagone intensifie les discussions avec les principales entreprises d'IA sur le déploiement d'outils sur des systèmes classifiés

Le Pentagone exerce une pression réelle sur les grandes entreprises d'intelligence artificielle pour qu'elles donnent à l'armée américaine accès à leurs outils à l'intérieur de systèmes classifiés.

Les responsables ne demandent pas seulement un accès de base. Ils veulent que ces modèles d'IA fonctionnent sans toutes les limites habituelles que les entreprises imposent aux utilisateurs.

Lors d'une réunion à la Maison Blanche mardi, Emil Michael, le directeur technologique du Pentagone, a déclaré aux dirigeants technologiques que l'armée souhaite que ces modèles d'IA fonctionnent sur les réseaux classifiés et non classifiés.

Un proche des négociations aurait déclaré que le gouvernement est désormais déterminé à obtenir ce qu'il appelle des « capacités d'IA de pointe » à tous les niveaux d'utilisation militaire.

Le Pentagone exige un accès sans restrictions sur les réseaux sécurisés

Cette poussée fait partie de discussions plus larges sur la manière dont l'IA sera utilisée dans les combats futurs. Les guerres sont déjà façonnées par des essaims de drones, des robots et des cyberattaques incessantes. Le Pentagone ne veut pas jouer l'après-coup pendant que le monde technologique trace des limites autour de ce qui est autorisé.

Actuellement, la plupart des entreprises travaillant avec l'armée proposent des versions atténuées de leurs modèles. Celles-ci ne fonctionnent que sur des systèmes ouverts et non classifiés utilisés pour le travail administratif. Anthropic est la seule exception.

Claude, son chatbot, peut être utilisé dans certains environnements classifiés, mais uniquement via des plateformes tierces. Même dans ce cas, les utilisateurs gouvernementaux doivent toujours respecter les règles d'Anthropic.

Ce que le Pentagone veut, c'est un accès direct à l'intérieur de réseaux classifiés hautement sensibles. Ces systèmes sont utilisés pour des choses comme la planification de missions ou la verrouillage de cibles. On ne sait pas quand ou comment des chatbots comme Claude ou ChatGPT seraient installés sur ces réseaux, mais c'est l'objectif.

Les responsables croient que l'IA peut aider à traiter d'énormes quantités de données et à les transmettre rapidement aux décideurs. Mais si ces outils génèrent de fausses informations, et ils le font, des personnes pourraient mourir. Des chercheurs ont mis en garde contre exactement cela.

OpenAI a conclu un accord avec le Pentagone cette semaine. ChatGPT sera désormais utilisé sur un réseau non classifié appelé genai.mil. Ce réseau atteint déjà plus de 3 millions d'employés du département de la Défense.

Dans le cadre de l'accord, OpenAI a supprimé une grande partie de ses limites d'utilisation normales. Il reste encore quelques garde-fous en place, mais le Pentagone a obtenu la plupart de ce qu'il voulait.

Un porte-parole de l'entreprise a déclaré que toute extension à un usage classifié nécessiterait un nouvel accord. Google et xAI d'Elon Musk ont conclu des accords similaires par le passé.

Les chercheurs en IA démissionnent et dénoncent les risques

Les négociations avec Anthropic n'ont pas été aussi faciles. Les dirigeants de l'entreprise ont dit au Pentagone qu'ils ne veulent pas que leur technologie soit utilisée pour le ciblage automatique ou l'espionnage de personnes à l'intérieur des États-Unis.

Même si Claude est déjà utilisé dans certaines missions de sécurité nationale, les dirigeants de l'entreprise font pression. Dans un communiqué, un porte-parole a déclaré :

« Anthropic s'engage à protéger l'avance de l'Amérique en matière d'IA et à aider le gouvernement américain à contrer les menaces étrangères en donnant à nos combattants un accès aux capacités d'IA les plus avancées. »

Ils ont déclaré que Claude est déjà en utilisation, et que l'entreprise travaille toujours étroitement avec ce qui s'appelle désormais le département de la Guerre. Le président Donald Trump a récemment ordonné au département de la Défense d'adopter ce nom, mais le Congrès doit encore l'approuver.

Pendant tout cela, un groupe de chercheurs de ces entreprises démissionne. L'un des principaux chercheurs en sécurité d'Anthropic a déclaré : « Le monde est en péril », alors qu'il démissionnait. Un chercheur d'OpenAI a également quitté l'entreprise, affirmant que la technologie a « un potentiel de manipulation des utilisateurs de manière que nous n'ayons pas les outils pour comprendre, encore moins empêcher. »

Certaines des personnes qui partent ne le font pas discrètement. Elles mettent en garde contre le fait que les choses vont trop vite et que les risques sont ignorés. Zoë Hitzig, qui a travaillé chez OpenAI pendant deux ans, a démissionné cette semaine.

Dans un essai, elle a déclaré avoir « de profondes réserves » sur la façon dont l'entreprise prévoit d'introduire la publicité. Elle a également déclaré que ChatGPT stocke les données privées des gens, comme « les peurs médicales, leurs problèmes relationnels, leurs croyances en Dieu et l'au-delà. »

Elle a déclaré que c'est un énorme problème parce que les gens font confiance au chatbot et ne pensent pas qu'il ait des motifs cachés.

Peu après, le site technologique Platformer a rapporté qu'OpenAI avait supprimé son équipe d'alignement de la mission. Ce groupe avait été mis en place en 2024 pour s'assurer que l'objectif de l'entreprise de construire une IA qui aide toute l'humanité avait vraiment du sens.