IA avanzada en la CIA: La perspectiva de la ex funcionaria Linda Weissgold

En un reciente webinar de INSA, la ex Directora Adjunta de Análisis de la CIA, Linda Weissgold, compartió su perspectiva sobre el papel evolutivo de la inteligencia artificial (IA) en la comunidad de inteligencia.

Weissgold reconoció el uso creciente de algoritmos avanzados, específicamente IA de aprendizaje de redes neuronales, dentro de la CIA, pero enfatizó que estas tecnologías no reemplazarían a los analistas humanos.

Grandes expectativas de una competencia pública

Casi hace seis años, la Oficina del Director de Inteligencia Nacional (ODNI) patrocinó una competencia para evaluar la capacidad de los algoritmos para replicar informes de inteligencia analítica creados por humanos. 

Mirando hacia atrás, los resultados pueden parecer poco impresionantes, con la entrada ganadora escrita por un programador francés que luchaba por tener sentido completo. Sin embargo, en ese momento, la ODNI consideró los resultados «altamente alentadores».

Hoy en día, los algoritmos avanzados de aprendizaje de redes neuronales de IA están operativos dentro de la CIA, según Linda Weissgold. No obstante, es crucial aclarar que la IA no genera informes analíticos finales. En cambio, la IA se utiliza para mejorar el proceso analítico, proporcionando apoyo y aumentando las capacidades de los analistas humanos.

Las limitaciones de la IA generativa

Linda Weissgold señaló una limitación fundamental de la IA generativa: el misterio inherente detrás de cómo formula las respuestas a las preguntas. Destacó la ambigüedad sobre el universo de información que busca la IA y la falta de transparencia respecto a los parámetros y sesgos establecidos por sus programadores.

«No sabemos cuáles son los parámetros y los sesgos de los programadores», afirmó Weissgold, enfatizando la incertidumbre inherente a las respuestas generadas por IA.

Una de las razones clave por las que Linda Weissgold cree que la IA no reemplazará a los analistas humanos en la comunidad de inteligencia es el tema de la responsabilidad. Se basó en su experiencia como asesora de inteligencia del presidente George W. Bush, enfatizando la importancia de que los analistas humanos puedan proporcionar explicaciones claras y responsables de sus evaluaciones.

«No puedo imaginar ir y decirle a un presidente en respuesta a una pregunta [como], ‘¿Por qué estás diciendo esto?’ ‘Oh, no lo sé porque la caja negra simplemente me lo dijo.’ Eso nunca será aceptable», afirmó Weissgold.

La visión matizada de la IA

La perspectiva de Weissgold sobre la IA es matizada. Si bien reconoce el valor de la IA para manejar grandes cantidades de datos y ayudar en las etapas iniciales del análisis, cree firmemente que el juicio final debe permanecer con los analistas humanos, quienes pueden proporcionar contexto, juicio y responsabilidad.

En esencia, la opinión de la ex funcionaria de la CIA subraya el sentimiento predominante en la comunidad de inteligencia: que la IA debe verse como una herramienta valiosa en lugar de un reemplazo para los analistas humanos. La IA puede procesar enormes conjuntos de datos rápida y eficientemente, pero carece del toque humano requerido para un análisis e interpretación matizados.

Perspectivas y esfuerzos colaborativos

As AI technology continues to advance, it is likely that its role within intelligence agencies will evolve as well. Collaborative efforts between human analysts and AI systems may become more integrated, allowing for a more efficient and effective intelligence-gathering process.