AI 통제 무기에 대한 국제적 우려

최근 며칠 동안 prominent한 미국 관리자는 모든 핵 보유국이 이러한 무기를 감독하기 위해 고위직 인간을 유지해야 한다는 아이디어를 반복했습니다. 국무부 군비통제, 억제 및 안정 부서의 대리 차관보인 폴 디언(Paul Dean)은 기계가 위험한 시기에 게으를 수 있다는 사실, 즉 한 번의 잘못된 움직임이 처음부터 기계 자체의 피해보다 더 큰 피해를 초래할 수 있는 시기에 이를 무시하는 것이 매우 위험하다고 밝혔습니다. 그는 특히 UN 안보리가 전략 무기 관리와 관련된 의사 결정에 인간 고려의 근본적인 영향에 대해 합의한 사항을 특히 언급했습니다.

AI의 오펜하이머 순간 

무기화된 인공지능의 위험은 오펜하이머 순간(Oppenheimer moment)의 정점에 도달했으며, 이는 원자폭탄의 아버지인 J. 로버트 오펜하이머가 직면한 윤리적 갈림길이 이제 현대 분쟁에서 AI의 역할에 대한 논의를 지배하고 있음을 명확히 나타냅니다. 몇 주 전, 100개 이상의 국가를 포함한 전 세계 국가들을 모은 협력 훈련에서 군사 기술 규제 시스템에 대한 AI의 엄격한 구현의 필요성이 주요 의제 중 하나였습니다. 오스트리아 외무장관 알렉산더 샬렌베르크(Alexander Schallenberg)는 군사 응용 분야와 관련하여 AI는 인간이 생사 여부를 결정할지 여부에 조건을 부과하지 않으며, 화약만큼이나 군사 기술에 중요한 영향을 미친다는 아이디어를 제시했습니다.

자율 무기 및 국제 외교 

빈에서 열린 자율 무기 시스템 컨퍼런스에서는 AI가 전쟁 전략에 어떻게 통합되어 있는지와 이러한 기술을 해결하기 위한 국제 조약 시스템의 시급한 필요성에 대한 논의도 목격되었습니다. AI 하에서 군사 참여 수준은 높지만, 치명적 자율 무기 시스템(LAWS)을 규율하는 구체적인 국제 법 체계는 아직 마련되어 있지 않습니다. 이 컨퍼런스는 향후 협상 및 그러한 조약 초안으로 이어질 수 있는 협상을 주최할 것으로 예상되는 국가에 전념했습니다.

글로벌 군사 개발 및 AI 

최근 한 사례는 군사 목표에서 AI의 합법적인 응용 프로그램을 일부 보여주며, 강조된 우려는 이스라엘 스파이가 부여한 AI 시스템(가명)인 '라벤더(Lavender)'입니다. 이는 의도적으로 용의자(가명)와 연결된 방대한 데이터를 수집하고 표적을 투영하기 위해 만들어졌습니다. 또한 우크라이나 군대는 정밀도와 안전성을 향상시킬 AI 기반 드론 격퇴 드론 개발을 시작했으며, 이는 자동화된 군사 기술로의 전환이 빠르게 진행되고 있음을 보여줍니다. 한편, 외교적 참여는 계속되고 있으며, 바이든 행정부도 중국과의 토론을 유지하고 있습니다. 

우려사항은 핵 무기 정책과 관련된 근시안적인 문제뿐만 아니라 AI의 빠른 개발이라는 더 큰 그림에도 미칩니다. 이러한 추론은 AI가 기술에 대해 갖는 이중적 역할을 인정하며, AI가 제기하는 위험에 대응하기 위한 기반을 마련하고자 합니다. 따라서 AI 기술이 국가 군대의 원격 제어 시스템에 통합되는 추세와 함께, 이러한 기술을 규제하기 위한 국제 조약 시스템 생성의 필요성은 그 어느 때보다 강합니다. 대화와 지속적인 협상은 보호 및 전쟁 목적으로 사용되는 로봇이 인간의 통제를 받도록 하는 방식에서 핵심 단계입니다.