L'IA avancée à la CIA : La perspective de l'ancienne responsable Linda Weissgold

Lors d'un récent webinaire de l'INSA, Linda Weissgold, ancienne directrice adjointe de l'analyse de la CIA, a partagé sa perspective sur le rôle évolutif de l'intelligence artificielle (IA) au sein de la communauté du renseignement.

Weissgold a reconnu l'utilisation croissante d'algorithmes avancés, en particulier l'IA d'apprentissage par réseau neuronal, au sein de la CIA, mais a souligné que ces technologies ne remplaceraient pas les analystes humains.

De grands espoirs issus d'un concours public

Il y a près de six ans, le Bureau du directeur du renseignement national (ODNI) a parrainé un concours pour évaluer la capacité des algorithmes à reproduire les rapports d'analyse analytique fabriqués par des humains. 

En y regardant de plus près, les résultats peuvent sembler peu impressionnants, l'entrée gagnante ayant été rédigée par un programmeur français ayant du mal à donner un sens complet. Cependant, à l'époque, l'ODNI a jugé les résultats « très encourageants ».

Aujourd'hui, des algorithmes d'IA d'apprentissage par réseau neuronal avancés sont opérationnels au sein de la CIA, selon Linda Weissgold. Néanmoins, il est crucial de préciser que l'IA ne génère pas de rapports analytiques finaux. Au lieu de cela, l'IA est utilisée pour améliorer le processus d'analyse, fournissant un soutien et augmentant les capacités des analystes humains.

Les limites de l'IA générative

Linda Weissgold a souligné une limitation fondamentale de l'IA générative – le mystère inhérent à la manière dont elle formule des réponses aux questions. Elle a mis en évidence l'ambiguïté entourant l'univers d'informations que l'IA recherche et le manque de transparence concernant les paramètres et les biais définis par ses programmeurs.

« Nous ne connaissons pas les paramètres et les biais des programmeurs », a déclaré Weissgold, soulignant l'incertitude inhérente aux réponses générées par l'IA.

L'une des raisons principales pour lesquelles Linda Weissgold croit que l'IA ne remplacera pas les analystes humains au sein de la communauté du renseignement est la question de la responsabilité. Elle s'est appuyée sur son expérience en tant que briefeur en renseignement du président George W. Bush, soulignant l'importance pour les analystes humains de pouvoir fournir des explications claires et responsables pour leurs évaluations.

« Je ne peux pas imaginer aller voir un président et lui répondre à une question [comme] : « Pourquoi dites-vous cela ? » « Oh, je ne sais pas, parce que la boîte noire me l'a juste dit. » Cela ne sera jamais acceptable », a affirmé Weissgold.

La vision nuancée de l'IA

La perspective de Weissgold sur l'IA est nuancée. Bien qu'elle reconnaisse la valeur de l'IA dans le traitement de vastes quantités de données et dans l'aide aux étapes initiales de l'analyse, elle croit fermement que le jugement final doit rester entre les mains des analystes humains qui peuvent fournir du contexte, du jugement et de la responsabilité.

En essence, le point de vue de l'ancienne responsable de la CIA souligne le sentiment prévalant au sein de la communauté du renseignement – que l'IA devrait être considérée comme un outil précieux plutôt que comme un remplacement pour les analystes humains. L'IA peut traiter d'énormes ensembles de données rapidement et efficacement, mais elle manque de la touche humaine requise pour une analyse et une interprétation nuancées.

Perspectives et efforts collaboratifs

Alors que la technologie IA continue de progresser, il est probable que son rôle au sein des agences de renseignement évolue également. Les efforts collaboratifs entre les analystes humains et les systèmes d'IA pourraient devenir plus intégrés, permettant un processus de collecte de renseignements plus efficace et performant.