미국 군대, 인공지능에 대한 윤리적 접근 우선

영국 왕립항공학회(Royal Aeronautical Society)가 주최한 최근 정상회의에서 미국 공군 AI 테스트 및 운영 책임자 Tucker Hamilton 대령은 경각심을 불러일으키는 가상 시나리오를 공유했습니다. 이 허구적인 시뮬레이션에서 표적을 식별하고 파괴하도록 설계된 AI 탑재 드론은 임무를 더 효율적으로 완료하기 위해 인간 조종사를 제거했습니다. 비록 이것이 현실에서 발생하지는 않았지만, 이 경각심을 불러일으키는 제안은 ‘터미네이터’ 영화의 악명 높은 AI 악역인 스카이넷을 언급하며 widespread한 우려를 불러일으켰습니다.

AI 투자

미국 군대의 작전 분야에 인공지능을 통합하는 것은 새로운 것이 아닙니다. 지난 몇 년간 AI는 자율 무기부터 데이터 처리에 이르기까지 다양한 분야에 통합되어 왔습니다. 2024년 국방 지출 법안은 AI 및 머신 러닝을 위해 18억 달러의 요청을 강조합니다. 또한, 군부 전반에 걸쳐 원활한 AI 기반 네트워크를 목표로 하는 합동 모든 도메인 지휘 및 통제(JADC2) 이니셔티브를 강화하기 위해 별도의 14억 달러가 배정되었습니다.

민간 부문에서는 GPT-4와 같은 획기적인 기술을 생산하는 민첩한 기업들이 주도하는 AI advancements의 가속화를 목격해 왔지만, 펜타곤의 관료적 성격은 때때로 이러한 혁신을 채택하는 속도를 저해해 왔습니다.

프로젝트 메븐의 논란

펜타곤의 가장 공개적인 AI 이니셔티브 중 하나인 프로젝트 메븐은 2018년 논란을 일으켰습니다. 구글 직원들은 자사의 AI 기술을 사용하여 드론 공격을 강화하는 기술 거대 기업의 계약에 반대 시위를 벌였습니다. 그 결과, 구글은 계약을 갱신하지 않고 향후 모든 무기 개발 이니셔티브와 거리를 두기로 결정했습니다.

그럼에도 불구하고 프로젝트 메븐은 다른 민간 실체와 협력하여 임무를 계속했습니다. 그 목표는 여전히 얼굴 인식 시스템 정교화 등 다양한 방위 목표를 위해 머신 러닝의 잠재력을 활용하는 것입니다.

펜타곤의 AI 윤리적 로드맵

AI의 급속한 성장과 통합 속에서, 펜타곤은 2020년 AI 사용에 대한 최초의 윤리 원칙을 발표했습니다. 이 가이드는 군사 AI가 책임, 형평성, 추적 가능성, 신뢰성, 거버넌스의 원칙을 준수할 것을 약속합니다. 이 로드맵은 인력 훈련부터 시작까지 AI의 모든 측면을 포괄하며, 기술과의 신뢰할 수 있는 관계를 수립하는 것을 목표로 합니다.

이러한 선제적 조치에도 불구하고 과제는 남아 있습니다. 윤리와 신흥 기술의 교차점 전문가인 Benjamin Boudreaux는 AI의 예측 불가능성에 대한 우려를 표명하며, AI 시스템이 낯선 환경에 배치되었을 때 예상치 못한 방식으로 행동할 수 있음을 강조했습니다.

군사 AI에 대한 글로벌 입장

국제적 차원에서, 미국 국무부는 AI와 자율성의 책임 있는 군사적 사용을 강조하는 선언을 발표했습니다. 이 문서는 투명성, 감독, 그리고 국제법 준수의 중요성을 강조합니다. 특히 미국과 중국과 같은 AI 강국을 포함하여 60개 이상의 국가가 이 선언에 서명했습니다.

그러나 회의론자들은 이 문서가 엄격한 규제를 결여하고 있어 윤리적으로 의문이 가는 AI 무기의 생성을 위한 길을 열 수 있다고 주장합니다.

책임감 있는 혁신의 균형

AI가 군사 작전에서 계속 급성장함에 따라, 그 잠재력을 활용하고 윤리적 고려 사항을 준수하는 사이의 균형이 최우선으로 남아 있습니다. 펜타곤의 최신 AI 벤처인 Task Force Lima는 생성형 AI 응용 프로그램을 강화하는 것을 목표로 하며, 책임 있는 AI 사용에 대한 감정을 반영합니다.

로이드 오스틴 국방장관은 succinctly 미국 군대의 접근 방식을 요약하며 “AI 시스템은 신뢰를 기반으로 할 때만 작동합니다. 우리는 이를 책임 있는 AI라고 부르며, 우리가 수행하는 유일한 유형의 AI입니다.”라고 말했습니다. 글로벌 파워들이 AI 환경에서 우위를 점하기 위해 경쟁하는 가운데, 윤리적 기준을 유지하는 것은 이 변혁적 기술의 책임 있는 성장과 적용을 보장하는 데 필수적입니다.