Le Pentagone s’associe à une entreprise d’IA pour tester de nouveaux modèles LLM
Pentagone
- Scale AI élaborera un cadre de test et d’évaluation (T&E) pour les grands modèles de langage (LLM) du Pentagone. L’objectif est de garantir leur sécurité et leur fiabilité dans un contexte militaire.
- Le processus T&E consistera à créer des « jeux de données de réserve ». Des experts du département de la Défense proposeront des paires entrée-réponse, qui seront ensuite examinées pour s’assurer qu’elles sont aussi pertinentes que le ferait un humain dans un contexte militaire.
- L’objectif est de rendre les systèmes d’IA plus robustes et plus résilients. Cela permettra d’utiliser la technologie des LLM dans des environnements sécurisés et aidera le DoD à mieux comprendre les forces et les limites de cette technologie.
Scale AI élabore un plan de test et d’évaluation (T&E) pour les grands modèles de langage (LLM) du Pentagone. Le projet vise à s’assurer que les modèles d’IA sont sûrs et fiables pour une utilisation militaire.
Le Bureau principal de la numérisation et de l’intelligence artificielle (CDAO) du Pentagone a besoin d’un moyen de tester et d’évaluer les modèles d’IA pour un usage militaire. Le CDAO souhaite utiliser les LLM pour soutenir et améliorer la planification et la prise de décision militaires. Cependant, les LLM peuvent également perturber ces processus.
Le Pentagone utilise des processus T&E depuis longtemps pour s’assurer que ses systèmes, plateformes et technologies fonctionnent bien. Mais les normes et politiques de sécurité de l’IA ne sont pas encore établies. La complexité et l’incertitude des LLM rendent le T&E encore plus difficile pour l’IA générative.
Comment cela va-t-il fonctionner ?
Scale AI créera un cadre pour que le CDAO teste et évalue les LLM. Le processus T&E inclura la création de « jeux de données de rétention » où des initiés du DoD fourniront des paires de questions-réponses et les examineront par couches. Les experts s’assureront que chaque réponse est aussi bonne qu’une réponse humaine dans le contexte militaire.
Le processus sera itératif, et une fois les jeux de données prêts, les experts évalueront les LLM existants par rapport à ceux-ci. Finalement, les modèles enverront des signaux aux responsables du CDAO s’ils commencent à s’écarter des domaines pour lesquels ils ont été testés.
L’objectif du Pentagone
L’objectif est d’améliorer la robustesse et la résilience des systèmes d’IA dans les environnements classifiés. Cela permettra l’adoption de la technologie LLM dans des environnements sécurisés. L’entreprise prévoit d’automatiser autant que possible le processus de développement. Ainsi, à mesure que de nouveaux modèles arrivent, il pourra y avoir une compréhension de base de leurs performances, de leurs meilleurs domaines d’application et de leurs points de défaillance probables.
Avantages du partenariat
Le partenariat entre Scale AI et le DoD est une étape significative vers la garantie du déploiement sûr et responsable des LLM et de l’IA générative au sein de l’armée. Le cadre T&E aidera le DoD à comprendre les forces et les limites de la technologie. Il garantira également que les modèles sont fiables, sûrs et efficaces pour les applications militaires.
Alexandr Wang, PDG de Scale AI, a déclaré : « Tester et évaluer l’IA générative aidera le DoD à comprendre les forces et les limites de la technologie, afin qu’elle puisse être déployée de manière responsable. Scale est honoré de s’associer au DoD sur ce cadre. »
Outre le CDAO, Scale AI a noué des partenariats avec Meta, Microsoft, l’Armée américaine, l’Unité d’innovation de la défense, OpenAI, General Motors, le Toyota Research Institute, Nvidia et d’autres. Ces partenariats montrent l’engagement de Scale AI à garantir le déploiement sûr et responsable de la technologie IA.
Le partenariat entre Scale AI et le Pentagone est une étape majeure. Il vise à garantir l’utilisation sécurisée des LLM et de l’IA générative dans le domaine militaire. Le cadre T&E aidera le Département de la Défense (DoD) à comprendre les forces et les limites de la technologie. Il garantira également que les modèles sont fiables, sûrs et efficaces. Cela s’applique à l’usage militaire. Avec l’expertise de Scale AI et le besoin du Pentagone en matière de T&E, ce partenariat est gagnant-gagnant pour les deux parties.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne décline aucune responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d’investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan, couvrant la technologie, l'IA, la robotique, la crypto, les arnaques et les piratages. Elle évolue dans l'espace crypto depuis 2017. Elle a occupé des postes chez Forward Protocol, AmaZix et Cryptosomniac. Randa détient un diplôme en génie électrique et électronique de l'Université de Bradford.
