CIA의 고급 AI: 전직 관료 Linda Weissgold의 관점

최근 INSA 웹inaire에서 전 CIA 분석 부국장인 Linda Weissgold는 인공지능(AI)이 정보 커뮤니티에서 수행하는 진화하는 역할에 대한 자신의 관점을 공유했습니다.

Weissgold는 CIA 내에서 특히 신경망 학습 AI와 같은 고급 알고리즘의 사용이 증가하는 것을 인정했지만, 이러한 기술이 인간 분석가를 대체하지는 않을 것이라고 강조했습니다.

공모전에서의 높은 기대

거의 6년 전, 국가정보국장실(ODNI)은 알고리즘이 인간이 만든 분석적 정보 보고서를 복제할 수 있는 능력을 평가하기 위한 경쟁을 후원했습니다. 

돌이켜보면, 결과는 프랑스 프로그래머가 작성한 우승 작품이 완전한 의미를 이해하는 데 struggle하는 것으로 인해 인상적이지 않아 보일 수 있습니다. 그러나 당시 ODNI는 결과를 “매우 고무적”으로 간주했습니다.

Linda Weissgold에 따르면, 오늘날 고급 신경망 학습 AI 알고리즘은 CIA 내에서 운영 중입니다. 그럼에도 불구하고, AI가 최종 분석 보고서를 생성하지 않는다는 점을 명확히 하는 것이 중요합니다. 대신 AI는 분석 과정을 향상시키고 인간 분석가의 능력을 보완하는 데 사용됩니다.

생성형 AI의 한계

Linda Weissgold는 생성형 AI의 근본적인 한계인 질문에 대한 답을 어떻게 구성하는지에 대한 내재된 신비로움을 지적했습니다. 그녀는 AI가 검색하는 정보의 우주에 대한 모호함과 프로그래머가 설정한 매개변수 및 편향에 대한 투명성 부족을 강조했습니다.

“우리는 프로그래머들의 매개변수와 편향이 무엇인지 알 수 없습니다.” Weissgold는 AI 생성 응답에 내재된 불확실성을 강조하며 이같이 밝혔습니다.

Linda Weissgold가 AI가 정보 커뮤니티에서 인간 분석가를 대체하지 않을 것이라고 믿는 주요 이유 중 하나는 책임 소재 문제입니다. 그녀는 George W. Bush 전 대통령의 정보 브리핑 담당자로서의 경험을 바탕으로, 인간 분석가가 자신의 평가에 대해 명확하고 책임 있는 설명을 제공할 수 있는 것의 중요성을 강조했습니다.

“대통령에게 ‘왜 그렇게 말하느냐?’라는 질문에 ‘글쎄요, 블랙박스가 그렇게 말했거든요’라고 답하는 상상은 전혀 할 수 없습니다. 그것은 결코 용납될 수 없습니다.” Weissgold는 단호하게 주장했습니다.

AI에 대한 미묘한 시각

Weissgold의 AI에 대한 관점은 미묘합니다. 그녀는 방대한 데이터를 처리하고 분석의 초기 단계를 돕는 데 있어 AI의 가치를 인정하지만, 최종 판단은 맥락, 판단력, 책임감을 제공할 수 있는 인간 분석가에게 남아야 한다고 확신합니다.

요컨대, 전 CIA 관리의 견해는 정보 커뮤니티의 지배적인 정서를 강조합니다. 즉, AI는 인간 분석가를 대체하는 것이 아니라 가치 있는 도구로 간주되어야 한다는 것입니다. AI는 방대한 데이터 세트를 빠르고 효율적으로 처리할 수 있지만, 미묘한 분석과 해석에 필요한 인간적인 감각은 부족합니다.

전망과 협력 노력

AI 기술이 계속 발전함에 따라 정보 기관 내에서의 그 역할도 진화할 가능성이 높습니다. 인간 분석가와 AI 시스템 간의 협력적 노력이 더 통합되어 더 효율적이고 효과적인 정보 수집 과정을 가능하게 할 수 있습니다.