Le patron de la robotique d'OpenAI démissionne, met en garde contre la surveillance par IA sous contrat de défense

Caitlin Kalinowski, ancienne patronne de la robotique chez OpenAI, a démissionné de son poste après avoir travaillé pour l'entreprise pendant un peu plus d'un an. Kalinowski a invoqué des craintes que l'armée américaine n'utilise les outils d'IA de l'entreprise pour la surveillance intérieure et pour des systèmes automatisés et ciblés dans les armes américaines.

Caitlin Kalinowski, responsable du matériel et de l'ingénierie robotique chez OpenAI, a quitté l'entreprise d'IA après y avoir servi depuis novembre 2024. Kalinowski a annoncé sa démission le 7 mars, invoquant des préoccupations concernant un accord conclu entre OpenAI et le département de la Défense des États-Unis en février. 

L'armée américaine utilisera l'IA pour la surveillance intérieure, affirme Kalinowski

J'ai démissionné d'OpenAI. Je tiens profondément à l'équipe de robotique et au travail que nous avons construit ensemble. Ce n'était pas une décision facile. L'IA joue un rôle important dans la sécurité nationale. Mais la surveillance des Américains sans contrôle judiciaire et l'autonomie létale sans autorisation humaine sont…

— Caitlin Kalinowski (@kalinowski007) mars 7, 2026

Selon Kalinowski, sa démission a été provoquée par l'intention du département de la Défense des États-Unis d'utiliser des outils et des capacités d'IA pour mener des surveillances de citoyens américains sans contrôle judiciaire. L'ancienne employée d'OpenAI a écrit sur X que l'IA a un rôle vital à jouer dans la sécurité nationale. 

Elle a expliqué que le département de la Défense des États-Unis entend utiliser l'IA pour la surveillance et les armes autonomes, une décision avec laquelle elle n'est pas d'accord. Elle a déclaré que sa décision « concernait des principes, pas des personnes » et qu'elle était fière de ce que l'équipe d'OpenAI avait construit pendant son temps dans l'entreprise. 

En février, le Pentagone a intensifié les discussions avec les principales entreprises d'IA sur le déploiement de modèles automatisés sur des systèmes classifiés. Cryptopolitan a rapporté a rapporté que le Pentagone poussait les discussions avec Anthropic et OpenAI pour intégrer des outils d'IA sur les réseaux militaires classifiés.

Emil Michael, directeur technologique du Pentagone, a déclaré lors d'une réunion à la Maison Blanche avec des dirigeants technologiques que l'armée souhaite que les modèles d'IA fonctionnent sur les réseaux classifiés et non classifiés sans limitations ni restrictions.

Les négociations entre le gouvernement américain et Anthropic ont atteint un point mort car ses dirigeants ont tracé des lignes rouges fermes : leur technologie ne serait pas utilisée pour des opérations de surveillance intérieure et des systèmes de ciblage d'armes autonomes. L'entreprise a défié l'ultimatum du Pentagone exigeant la suppression des sauvegardes de l'IA fin février.

Le PDG d'Anthropic, Dario Amodei, a tenu bon, refusant de permettre que la technologie de l'entreprise soit utilisée dans des expéditions militaires. En réponse, Trump a ordonné à toutes les agences fédérales de cesser d'utiliser la technologie d'Anthropic fin février. 

OpenAI a imposé des restrictions sur le déploiement militaire de l'IA

Le département de la Défense a conclu un accord avec OpenAI qui a depuis suscité des critiques. Sam Altman a a déclaré que l'accord semblait assez opportuniste et a précisé que l'entreprise avait imposé des restrictions sur la façon dont ses outils d'IA seraient utilisés dans les opérations militaires.

Cependant, les critiques de Kalinowski affirment que l'annonce a été précipitée, sans les garde-fous nécessaires en place. Elle a ajouté que son départ était fondé sur des préoccupations de gouvernance, qui sont trop importantes pour être précipitées.

OpenAI a confirmé le départ de Kalinowski dans un communiqué, mais a affirmé que les liens de l'entreprise avec les départements de la défense ouvrent la voie à une utilisation responsable des outils d'IA dans la sécurité nationale. 

En février, OpenAI a annoncé a annoncé qu'elle déploierait une version personnalisée de ChatGPT sur la plateforme d'IA d'entreprise sécurisée du département de la Guerre, appelée GenAI.mil. L'entreprise a noté que ses collaborations avec les départements militaires et de la défense découlent du rôle critique de l'IA dans la protection des personnes et l'évitement des conflits.

La friction entre le gouvernement américain et les entreprises d'IA sur l'avancement de l'IA militaire a également conduit davantage de chercheurs à quitter les entreprises d'IA. L'un des principaux chercheurs en sauvegardes d'Anthropic est parti avec une déclaration : « Le monde est en péril. »

Un autre chercheur d'OpenAI a également quitté son poste, affirmant que la technologie IA a un moyen de contrôler les êtres humains que les développeurs ne peuvent ni comprendre ni empêcher.

Zoë Hitzig, ancienne chercheuse chez OpenAI, a également quitté l'entreprise le 11 février. Elle a démissionné le même jour qu'OpenAI a annoncé avoir commencé à tester des publicités sur son LLM ChatGPT. Elle a affirmé que l'entreprise d'IA commettait la même erreur que Facebook.

Hitzig a exprimé ses craintes que le rôle unique de ChatGPT en tant que confident pour des révélations profondément personnelles (peurs médicales, problèmes relationnels, croyances religieuses) rende le ciblage publicitaire particulièrement risqué.