OpenAI intègre une version personnalisée de ChatGPT dans le système du Pentagone au milieu des préoccupations des experts en matière de sécurité

OpenAI a annoncé lundi qu’elle déployait une version personnalisée de ChatGPT sur GenAI.mil, la plateforme d’IA d’entreprise sécurisée du Département de la Guerre. Ce partenariat équipera 3 millions de personnels civils et militaires d’outils d’IA pour améliorer la préparation aux missions, la recherche et les flux de travail administratifs.

OpenAI étend sa collaboration avec le Pentagone en rejoignant d’autres laboratoires d’IA de pointe sur GenAI.mil. L’entreprise d’IA a précédemment collaboré avec la DARPA pour soutenir les initiatives de cybersécurité. 

Plus tôt cette année, OpenAI a également lancé un programme pilote avec le Bureau du directeur de la transformation numérique et de l’intelligence artificielle (CDAO) du Département pour enquêter sur la manière dont l’IA de pointe pourrait améliorer les opérations du Pentagone.

OpenAI déploie ChatGPT avec des mesures de sécurité pour l’armée

OpenAI a déclaré que ceux qui sont responsables de la défense nationale devraient avoir accès aux ressources les plus avancées disponibles. L’entreprise a souligné à quel point il est crucial d’aider les États-Unis et d’autres nations démocratiques à comprendre comment l’IA, lorsqu’elle est correctement protégée, peut protéger les personnes, dissuader les ennemis et éviter les conflits. 

OpenAI a révélé qu’elle intègre ChatGPT dans GenAI.mil. pour faciliter une utilisation gouvernementale sûre et efficace et fournir aux membres des forces armées américaines des capacités d’IA fiables.

« Nous croyons que nous pouvons mieux y parvenir en participant à des initiatives comme GenAI.mil⁠(s’ouvre dans une nouvelle fenêtre), où nous aidons à façonner les normes techniques pour le déploiement de l’IA dans l’ensemble du gouvernement », a déclaré l’entreprise dans son annonce.

OpenAI a indiqué que la version GenAI.mil de ChatGPT fonctionnera sur une infrastructure de cloud gouvernemental approuvée pour un usage non classifié du Département de la Défense. Selon l’entreprise, le système comprend des mesures de sécurité conçues pour protéger les données sensibles.

La firme technologique a en outre déclaré que l’intégration de ChatGPT dans GenAI.mil reflète la manière dont l’entreprise aborde le travail gouvernemental plus largement, de manière ciblée, pratique, axée sur la sécurité et ancrée dans l’utilisation réelle.

Cependant, J.B. Branch, défenseur de la responsabilité des grandes technologies chez Public Citizen, a mis en garde contre le fait qu’une dépendance excessive à l’IA de la part des utilisateurs pourrait compromettre ces mesures de sécurité.

Branch a fait valoir que la recherche indique que lorsque les individus utilisent ces grands modèles de langage, ils ont tendance à leur faire confiance. Il a ajouté : « Donc, dans des situations à fort impact comme l’armée, il est encore plus important de s’assurer qu’ils obtiennent les bonnes réponses. »

Bien qu’OpenAI ait déclaré que la version personnalisée de ChatGPT est exclusivement destinée aux données non classifiées, Branch a mis en garde contre le fait de confier des données sensibles aux systèmes d’IA, les exposant ainsi aux attaquants, notant que les utilisateurs confondent souvent ces technologies avec des havres de paix.

Il a fait valuer que seuls quelques privilégiés sont censés consulter des matériaux classifiés. Il a en outre déclaré que même un système de coupure réservé à l’armée ne change pas la réalité selon laquelle l’accès aux informations secrètes reste limité.

Le Pentagone accélère l’intégration de l’IA pour maintenir sa supériorité

Le déploiement intervient alors que les développeurs d’IA visent le succès financier et que le Pentagone accélère l’intégration de l’IA commerciale dans les réseaux militaires.

Le secrétaire à la Défense, Pete Hegseth a déclaré en janvier, le Pentagone a l’intention d’utiliser des modèles d’IA de pointe dans des réseaux militaires à la fois secrets et non classifiés. Hegseth a déclaré que le département de la Guerre souhaite créer « une force de combat axée sur l’IA dans tous les domaines », y compris les opérations de première ligne et les systèmes de planification interne.

Selon Hegseth, la lutte stratégique pour la suprématie technologique au XXIe siècle doit être remportée par les États-Unis. Il a cité les drones à longue portée, les systèmes autonomes, la technologie quantique, les hypersoniques et l’intelligence artificielle comme des domaines importants.

« Si vous parlez assez longtemps à Elon Musk, il vous dira à quel point les hypersoniques et les drones à longue portée sont importants, et il a 100 % raison. Les capacités spatiales, l’énergie dirigée et la biotechnologie sont les nouveaux domaines de la compétition mondiale. »

- Pete Hegseth, secrétaire américain à la Défense.

Il a en outre déclaré que le Pentagone commencerait à utiliser Grok, faisant référence à la rétablissement des liens entre Musk et l’administration Trump. Hegseth a indiqué que l’objectif est de maintenir l’avantage militaire américain alors que les capacités d’IA se répandent à l’échelle mondiale.

Hegseth a ajouté que le département de la Guerre doit garantir la supériorité de l’IA militaire américaine pour empêcher les rivaux d’abuser de cette technologie et de mettre en danger les citoyens américains ou la sécurité nationale. Hegseth a souligné qu’à mesure que les capacités d’IA continuent de s’étendre à l’échelle mondiale, il est impératif de préserver cet avantage.