IA Avançada na CIA: A Perspectiva da Ex-Oficial Linda Weissgold

Em um recente webinar da INSA, a ex-diretora adjunta de Análise da CIA, Linda Weissgold, compartilhou sua perspectiva sobre o papel em evolução da inteligência artificial (IA) na comunidade de inteligência.

Weissgold reconheceu o uso crescente de algoritmos avançados, especificamente IA de aprendizado de rede neural, dentro da CIA, mas enfatizou que essas tecnologias não substituiriam os analistas humanos.

Grandes expectativas de uma competição pública

Quase seis anos atrás, o Escritório do Diretor de Inteligência Nacional (ODNI) patrocinou uma competição para avaliar a capacidade dos algoritmos de replicar relatórios de inteligência analítica feitos por humanos. 

Olhando para trás, os resultados podem parecer pouco impressionantes, com a entrada vencedora escrita por um programador francês lutando para fazer sentido completo. No entanto, na época, o ODNI considerou os resultados “altamente encorajadores.”

Hoje, algoritmos avançados de IA de aprendizado de rede neural estão operacionais dentro da CIA, de acordo com Linda Weissgold. No entanto, é crucial esclarecer que a IA não gera relatórios analíticos finais. Em vez disso, a IA é usada para aprimorar o processo analítico, fornecendo suporte e aumentando as capacidades dos analistas humanos.

As limitações da IA generativa

Linda Weissgold apontou uma limitação fundamental da IA generativa – o mistério inerente por trás de como ela formula respostas para perguntas. Ela destacou a ambiguidade em torno do universo de informações que a IA pesquisa e a falta de transparência sobre os parâmetros e vieses definidos por seus programadores.

“Não sabemos quais são os parâmetros e os vieses dos programadores”, afirmou Weissgold, enfatizando a incerteza inerente às respostas geradas por IA.

Uma das principais razões pelas quais Linda Weissgold acredita que a IA não substituirá os analistas humanos na comunidade de inteligência é a questão da responsabilidade. Ela recorreu à sua experiência como assessora de inteligência do presidente George W. Bush, enfatizando a importância dos analistas humanos serem capazes de fornecer explicações claras e responsáveis por suas avaliações.

“Não consigo imaginar entrar e dizer a um presidente, em resposta a uma pergunta [como], ‘Por que você está dizendo isso?’ ‘Ah, eu não sei porque a caixa preta apenas me disse isso.’ Isso nunca será aceitável”, afirmou Weissgold.

A visão matizada da IA

A perspectiva de Weissgold sobre a IA é matizada. Embora reconheça o valor da IA no manuseio de vastas quantidades de dados e na ajuda nas etapas iniciais da análise, ela acredita firmemente que o julgamento final deve permanecer com os analistas humanos, que podem fornecer contexto, julgamento e responsabilidade.

Em essência, a visão da ex-oficial da CIA destaca o sentimento predominante na comunidade de inteligência – de que a IA deve ser vista como uma ferramenta valiosa, e não como uma substituição para os analistas humanos. A IA pode processar enormes conjuntos de dados rápida e eficientemente, mas carece do toque humano necessário para uma análise e interpretação matizadas.

Perspectivas e esforços colaborativos

À medida que a tecnologia de IA continua a avançar, é provável que seu papel dentro das agências de inteligência também evolua. Esforços colaborativos entre analistas humanos e sistemas de IA podem se tornar mais integrados, permitindo um processo de coleta de inteligência mais eficiente e eficaz.