AI 군비 경쟁 규제가 증가하는 글로벌 안보 위협에 대한 해결책인가?

인공지능 (AI) 의 급속한 진화는 교육, 업무부터 탐구 및 커뮤니케이션에 이르기까지 우리 삶의 다양한 측면에서 놀라운 변화를 가져왔습니다. 그러나 군사 작전에서의 AI 적용에 대한 우려가 커지고 있으며, 이는 기후 변화로 인한 위협에 필적할 정도입니다. 군사 기술 분야에서의 통제되지 않은 AI 진전은 현재 진행 중인 AI 군비 경쟁에서 보듯 인류에게 파국적인 결과를 초래할 수 있습니다.

AI 는 이미 전투 시나리오에서 그 흔적을 남겼습니다. 특히 2020 년 3 월, 튀르키예산 드론이 리비아에서 적군을 표적 삼아 얼굴 인식 기술을 활용한 사례가 있었습니다. 그러나 부인할 수 없는 기술 발전에도 불구하고 이러한 최첨단 무기에 대한 효과적인 규제가 부재하다는 점은 국제 인도법 준수와 관련하여 중대한 의문을 제기합니다. 자율 무기 체계가 민간인과 전투원을 reliably 구분할 수 있을까요? 비전투원에 대한 피해를 최소화할 수 있을까요? 감정적으로 고조된 상황에서 이러한 무기가 건전한 판단력을 발휘하도록 보장하는 과제는 여전히 시급한 우려 사항입니다.

또 다른 우려는 인간의 개입이 배제된 상태에서 잠재적인 전쟁 범죄에 대한 책임 소재를 규명하기 어렵다는 점입니다. 기계에게 생사여탈의 결정을 맡기고 인간을 단순한 데이터 포인트로 전락시키는 것은 디지털 인간성 상실을 초래할 위험이 있습니다. 또한 AI 무기 기술의 확산은 인명 손실을 줄임으로써 국가들이 무력 충돌로 빠지는 장벽을 낮추고 있어, 이는 예상치 못한 분쟁의 연쇄 반응을 촉발할 수 있는 우려스러운 추세입니다.

비국가 행위자의 그림자 아래 존재하는 재앙적 가능성

국가 주도의 AI 무기 개발 너머에는 비국가 행위자들이 이러한 무기에 접근하고 배치할 수 있다는 looming 한 위협이 존재합니다. AI 무기가 쉽게 접근 가능하고 비용 효율적이 된다면, 전통적 전쟁의 영역 밖의 집단들이 그 파괴적 잠재력을 활용할 수 있습니다. 이러한 무기의 기원을 추적하기 어렵다는 점은 비국가 행위자들이 합법적 부인 가능성을 유지하면서 혼란을 야기하게 하여, 글로벌 안보 위상을 더욱 악화시킬 수 있습니다.

침묵하는 AI 군비 경쟁은 글로벌 과제가 됩니다

AI 무기의 함의는 간과되지 않았습니다. 블라디미르 푸틴은 AI 영역에서의 우위가 글로벌 지배력과 동일하다고 강조하며, 진행 중인 AI 군비 경쟁의 경쟁적인 성격을 부각했습니다. 이 추세의 놀라운 예는 군사 기술 능력을 강화하고 민간 부문 혁신가들과 동맹을 맺기 위한 펜타곤의 1,450억 달러 예산 요청입니다. 군사 기술에 대한 민간 투자를 장려하기 위해 설립된 전략 자본 사무소(OSC)는 '신뢰할 수 있는 AI와 자율성'에 대한 전략적 초점을 반영합니다.

중국의 역할과 윤리적 고려사항

AI 경쟁의 주요 주자인 중국은 미국의 군사-민간 융합 (MCF) 정책을 통해 AI 지배력 추구를 반영하고 있습니다. 미국의 군산복합체와 유사점을 보이는 중국의 MCF 전략은 AI 기술에서의 리더십 달성을 목표로 합니다. 이러한 전략들의 수렴은 전쟁에서의 AI에 관한 윤리적, 법적 우려의 중대함을 의미합니다. 그러나 글로벌 차원에서 포괄적인 AI 기준을 수립할 단일 기관이 부재하여, 전쟁에서의 최소 AI 사용 기준에 대한 국제적 합의의 시급성이 그 어느 때보다 절실합니다.

LLM 의 해방된 잠재력은 우려스러운 전망으로 다가옵니다

대규모 언어 모델 (LLM) 의 정보전 활용은 우려스러운 전망을 제기합니다. ChatGPT와 같은 모델이 허위 정보 생성으로 비판을 받아왔지만, 더 발전된 LLM 은 국가 차원에서 적대국에 대해 기만적 서사를 확산하는 데 악용될 수 있습니다. 군사 등급 LLM 은 가짜 뉴스를 조장하고 딥페이크를 제작하며 피싱 공격을 심화시키고 심지어 한 국가의 정보 생태계를 불안정하게 만들 수도 있습니다. 미국 국방부 고위 관리가 ChatGPT 를 '현재 가장 화제인 기술'이라고 언급한 사실은 이 기술의 위력이 점차 인정받고 있음을 보여줍니다.

규제 필요성과 복잡한 글로벌 환경

ChatGPT 를 포함한 미국의 AI 기업들은 윤리적 가이드라인의 중요성을 인정하며 의회에 AI 기술 규제 촉구를 했습니다. 그러나 정부와 민간 부문의 영향력 경계를 구분하는 것은 매우 복잡한 과제입니다. 예를 들어 이스라엘에서는 전직 군 관계자들이 설립한 양면성 기술을 가진 기업들이 등장했습니다. 이러한 기업들은 군사 표적 지정에 AI 도구를 사용하고 있지만, 해당 기술은 여전히 대부분 규제를 받지 않아 AI에 대한 효과적인 거버넌스 체계에 대한 의문을 제기합니다.

시계는 계속 돌아가고 있는 글로벌 대응

핵무기 규제에서의 점진적 진전과 대조적으로, AI 군비 경쟁은 끊임없는 혁신에 힘입어 빠른 속도로 진행됩니다. 효과적인 AI 규제를 마련할 수 있는 좁은 시기가 빠르게 닫혀가고 있으며, 이는 중요한 질문을 제기합니다: 국제사회는 무제한적인 AI 군비 경쟁이 초래할 수 있는 잠재적 위험을 막기 위해 충분히 신속하게 행동할 수 있을까요? 각국이 AI의 힘을 활용하기 위해 경쟁하는 가운데, 윤리적 기준을 정의하고 AI 무기 확산을 통제하기 위한 협력적 국제 노치의 필요성은 그 어느 때보다 절실합니다.