OpenAI intègre ChatGPT personnalisé au système du Pentagone malgré les inquiétudes des experts en matière de sécurité

OpenAI a annoncé lundi le déploiement d'une version personnalisée de ChatGPT sur GenAI.mil, la plateforme d'IA sécurisée du département de la Guerre. Ce partenariat permettra à 3 millions de civils et de militaires d'accéder à des outils d'IA pour améliorer la préparation opérationnelle, la recherche et les processus administratifs.

OpenAI renforce sa collaboration avec le Pentagone en rejoignant d'autres laboratoires d'IA de pointe sur la plateforme GenAI.mil. L'entreprise a déjà collaboré avec la DARPA pour soutenir des initiatives de cyberdéfense. 

Plus tôt cette année, OpenAI a également lancé un programme pilote avec le Bureau du chef du numérique et de l'intelligence artificielle (CDAO) du Département afin d'étudier comment l'IA de pointe pourrait améliorer les opérations du Pentagone.

OpenAI déploie ChatGPT avec des mesures de protection pour les militaires

OpenAI a déclaré que les responsables de la défense nationale devraient avoir accès aux ressources les plus avancées. L'entreprise a souligné l'importance cruciale d'aider les États-Unis et les autres nations démocratiques à comprendre comment l'IA, correctement protégée, peut protéger les populations, dissuader les ennemis et prévenir les conflits. 

OpenAI a révélé qu'elle intégrait ChatGPT à GenAI.mil afin de faciliter une utilisation gouvernementale sûre et efficace et de fournir aux militaires américains des capacités d'IA fiables.

« Nous pensons que nous pouvons y parvenir au mieux en participant à des initiatives comme GenAI.mil (ouvre dans une nouvelle fenêtre), où nous contribuons à définir les normes techniques de déploiement de l'IA au sein du gouvernement », a déclaré la société dans son communiqué.

OpenAI a annoncé que la version GenAI.mil de ChatGPT fonctionnera sur une infrastructure cloud gouvernementale autorisée pour un usage non classifié par le département de la Défense. Selon l'entreprise, le système intègre des mesures de protection des données sensibles.

L'entreprise technologique a également déclaré que l'intégration de ChatGPT dans GenAI.mil reflète la manière dont elle aborde le travail gouvernemental de façon plus globale, ciblée, pratique, axée sur la sécurité et ancrée dans une utilisation concrète.

Cependant, JB Branch, défenseur de la responsabilité des géants de la tech chez Public Citizen, a averti qu'une dépendance excessive des utilisateurs à l'égard de l'IA pourrait compromettre ces garanties.

Branch a fait valoir que les recherches indiquent que lorsque les individus utilisent ces vastes modèles linguistiques, ils ont tendance à leur accorder le bénéfice du doute. Il a ajouté : « Par conséquent, dans des situations à fort enjeu comme le milieu militaire, il est d’autant plus important de s’assurer qu’ils ne se trompent pas. »

Bien qu'OpenAI ait déclaré que la version personnalisée de ChatGPT est exclusivement destinée aux données non classifiées, Branch a averti que confier des données sensibles à des systèmes d'IA les expose aux attaquants, notant que les utilisateurs confondent fréquemment ces technologies avec des refuges sûrs.

Il a soutenu que seules quelques personnes triées sur le volet étaient censées consulter des documents classifiés. Il a ajouté que même un système d'accès restreint aux seuls militaires ne changeait rien au fait que l'accès aux informations secrètes restait limité.

Le Pentagone accélère l'intégration de l'IA pour maintenir sa supériorité

Ce déploiement intervient alors que les développeurs d'IA visent le succès financier et que le Pentagone accélère l'intégration de l'IA commerciale au sein des réseaux militaires.

le secrétaire à la Défense, Pete Hegseth, a déclaré que le Pentagone entendait utiliser des modèles d'IA de pointe au sein des réseaux militaires, tant secrets que non classifiés. Il a précisé que le département de la Guerre souhaitait créer une force de combat axée sur l'IA dans tous les domaines, y compris les opérations de première ligne et les systèmes de planification interne.

Selon Hegseth, la lutte stratégique pour la suprématie technologique au XXIe siècle doit être remportée par les États-Unis. Il cite notamment les drones à longue portée, les systèmes autonomes, l'informatique quantique, l'hypersonique et l'intelligence artificielle comme des domaines clés.

« Si vous discutez suffisamment longtemps avec Elon Musk, il vous dira à quel point l'hypersonique et les drones à longue portée sont importants, et il a tout à fait raison. Les capacités spatiales, l'énergie dirigée et la biotechnologie sont les nouveaux domaines de la compétition mondiale. »

— Pete Hegseth, secrétaire à la Défense des États-Unis.

Il a également indiqué que le Pentagone commencerait à utiliser Grok, faisant allusion au rétablissement des liens entre Musk et l'administration Trump. Hegseth a précisé que l'objectif était de maintenir l'avantage militaire américain face à la diffusion mondiale des capacités en intelligence artificielle.

Hegseth a ajouté que le ministère de la Guerre doit garantir la supériorité militaire américaine en matière d'IA afin d'empêcher les rivaux d'abuser de cette technologie et de mettre en danger les citoyens américains ou la sécurité nationale. Il a souligné que, face à l'expansion continue des capacités d'IA à l'échelle mondiale, il est impératif de préserver cet avantage.