Le Pentagone américain intensifie ses discussions avec les principales entreprises d'IA concernant le déploiement d'outils sur des systèmes classifiés

Le Pentagone exerce une pression réelle sur les principales entreprises d'intelligence artificielle pour qu'elles donnent à l'armée américaine accès à leurs outils intégrés à des systèmes classifiés.

Les autorités ne se contentent pas de demander un accès de base. Elles souhaitent que ces modèles d'IA fonctionnent sans toutes les restrictions habituellement imposées aux utilisateurs par les entreprises.

Lors d'une réunion à la Maison Blanche mardi, Emil Michael, le directeur de la technologie du Pentagone, a déclaré aux responsables technologiques que l'armée souhaitait que ces modèles d'IA fonctionnent sur des réseaux classifiés et non classifiés.

Un responsable proche des négociations aurait déclaré que le gouvernement est désormais déterminé à intégrer ce qu'il appelle des « capacités d'IA de pointe » à tous les niveaux d'utilisation militaire.

Le Pentagone exige un accès sans restriction à travers les réseaux sécurisés

Cette initiative s'inscrit dans le cadre de discussions plus larges sur l'utilisation de l'IA dans les conflits futurs. Les guerres sont déjà marquées par les essaims de drones, les robots et les cyberattaques incessantes. Le Pentagone ne souhaite pas se retrouver à la traîne alors que le monde de la technologie définit les limites de ce qui est autorisé.

À l'heure actuelle, la plupart des entreprises travaillant avec l'armée proposent des versions allégées de leurs modèles. Celles-ci ne fonctionnent que sur des systèmes ouverts et non classifiés, utilisés pour les tâches administratives. Anthropic fait exception.

Claude, son chatbot, peut être utilisé dans certains contextes confidentiels, mais uniquement via des plateformes tierces. Même dans ce cas, les utilisateurs gouvernementaux doivent respecter les règles d'Anthropic.

Le Pentagone souhaite obtenir un accès direct à des réseaux classifiés hautement sensibles. Ces systèmes servent notamment à la planification de missions et au ciblage de cibles. On ignore encore quand et comment des chatbots comme Claude ou ChatGPT seraient installés sur ces réseaux, mais c'est bien l'objectif.

Les autorités estiment que l'IA peut aider à traiter d'énormes quantités de données et à les transmettre rapidement aux décideurs. Mais si ces outils génèrent de fausses informations, et c'est le cas, des vies humaines pourraient en être mises en danger. Des chercheurs ont d'ailleurs lancé un avertissement à ce sujet.

OpenAI a conclu un accord avec le Pentagone cette semaine. ChatGPT sera désormais utilisé sur un réseau non classifié appelé genai.mil. Ce réseau compte déjà plus de 3 millions d'employés au sein du département de la Défense.

Dans le cadre de cet accord, OpenAI a levé une grande partie de ses restrictions d'utilisation habituelles. Certaines garde-fous subsistent, mais le Pentagone a obtenu la plupart de ses souhaits.

Un porte-parole de l'entreprise a indiqué que toute extension à un usage classifié nécessiterait un nouvel accord. Google et xAI, la société d'Elon Musk, ont conclu des accords similaires par le passé.

Des chercheurs en IA démissionnent et dénoncent les risques

Les discussions avec Anthropic n'ont pas été aussi faciles. Les dirigeants de l'entreprise ont indiqué au Pentagone qu'ils ne souhaitaient pas que leur technologie soit utilisée pour le ciblagematic ou l'espionnage de personnes aux États-Unis.

Bien que Claude soit déjà utilisé dans certaines missions de sécurité nationale, les dirigeants de l'entreprise s'y opposent. Dans un communiqué, un porte-parole a déclaré :

« Anthropic s’engage à préserver le leadership américain en matière d’IA et à aider le gouvernement américain à contrer les menaces étrangères en donnant à nos combattants accès aux capacités d’IA les plus avancées. »

Ils ont indiqué que le nom « Claude » était déjà utilisé et que l'entreprise collaborait toujours étroitement avec ce qui s'appelle désormais le Département de la Guerre. Ledent Donald Trump a récemment ordonné au Département de la Défense d'adopter ce nom, mais le Congrès doit encore l'approuver.

Pendant ce temps, de nombreux chercheurs de ces entreprises démissionnent. L'un des principaux chercheurs d'Anthropic, spécialiste de la sécurité, a déclaré : « Le monde est en danger », avant de quitter ses fonctions. Un chercheur d'OpenAI a également démissionné, affirmant que cette technologie présente « un potentiel de manipulation des utilisateurs que nous ne sommes pas en mesure de comprendre, et encore moins d'empêcher »

Certains de ceux qui partent ne le font pas discrètement. Ils alertent sur le fait que les choses évoluent trop vite et que les risques sont ignorés. Zoë Hitzig, qui a travaillé chez OpenAI pendant deux ans, a démissionné cette semaine.

Dans un essai, elle a exprimé de « profondes réserves » quant à la stratégie publicitaire de l'entreprise. Elle a également affirmé que ChatGPT stocke des données personnelles, notamment « des craintes médicales, des problèmes relationnels et des croyances sur Dieu et l'au-delà »

Elle a déclaré que c'était un énorme problème car les gens font confiance au chatbot et ne pensent pas qu'il ait des motivations cachées.

À peu près au même moment, le site spécialisé Platformer a rapporté qu'OpenAI s'était séparé de son équipe chargée de l'alignement de sa mission. Ce groupe avait été créé en 2024 afin de garantir que l'objectif de l'entreprise, à savoir développer une IA au service de l'humanité entière, ait un véritable sens.