자율 무기는 비인간화의 원인이 되는가?

오스트리아 정부는 자율 무기 시스템이라는 주제에 대한 이틀간의 회의를 주최했으며, 군사 기술 전문가들과 143개국 대표들이 모여 이러한 무기의 영향과 이를 규제해야 하는 긴급한 필요성에 대해 논의했습니다.

자율 무기는 비인간화 경향이 있다

회의 중 전문가들은 인공지능에 의해 구동되는 무기로 인해 발생한 도덕적, 법적, 인도주의적, 윤리적 과제와 함께 인간 존엄성에 미치는 영향의 가장 중요한 측면에 대해 자세히 논의했습니다. 전문가들은 AI 무기의 사용이 표적과 운영자 모두를 비인간화할 것이라고 주장합니다.

군사 작전의 이 측면을 규제할 필요성을 강조하며, 주최국인 오스트리아의 알렉산더 샬렌베르크 외무장관은 다음과 같이 말했습니다.

“우리는 이 순간을 행동 없이 지나갈 수 없습니다. 인간의 통제를 보장하기 위해 국제 규칙과 규범에 동의할 때입니다.”

이러한 무기의 사용에 대한 논의가 전 세계적으로 거의 교착 상태에 있다는 배경 하에, 전문가들은 이러한 무기가 불완전한 기술로 인해 결함이 있고 고유한 편견을 가지며, 화력을 인간의 인지 범위를 넘어 가속화한다는 사실 때문에 자율 무기의 사용에 대한 적절한 통제를 유지할 수 있는지 여부에 대해서도 논의했습니다. 샬렌베르크가 말했듯이,

“적어도 가장 심오하고 광범위한 결정, 즉 누가 살고 누가 죽을 것인가에 대한 결정이 기계가 아닌 인간의 손에 남아 있도록 합시다.”

출처: Reuters.

자동화 시스템의 배치로 폭력이 증가할 것이다

코펜하겐 군사 연구소의 연구원인 Neil Renic은 자율 무기 관련 윤리적 문제에 대한 자신의 노력을 강조했으며, Computer Weekly의 Sebastian Klovig Skelton의 보도에 따르면 이러한 무기의 가장 시급한 과제는 이미 존재하는 폭력의 능력을 증폭시킬 수 있다는 점이라고 말했습니다. Neil은 다음과 같이 말했습니다.

“자율 무기와 그들이 가능하게 하고 가속화할 체계적인 살인은 두 가지 다른 방식으로 인간의 존엄성에 압력을 가할 가능성이 높습니다. 첫째, 표적에 대한 도덕적 가치 하락을 장려함으로써.”

출처: Sebastian Klovig Skelton.

회의의 연사들 중 누구도 자율 무기가 스스로 표적을 선택할 권한을 가져야 한다는 아이디어를 지지하지 않았습니다. 모로코 국제 인공지능 센터의 아말 엘 팔라 세그루치니 이사회 의장은 가상성과 속도를 이중 문제로 강조했습니다. 

그녀는 자율 무기의 배치 결과가 관찰되지 않는다고 말했으며, 이는 현장에 운영자가 있는 것처럼 보이며, 무기 운영자와 전쟁터 사이의 물리적 거리와 결정이 내려지는 속도가 결합되어 운영자에게 인식 부족을 초래한다고 덧붙였습니다.

그는 또한 이러한 시스템 하에서 인간의 극단적인 systematization으로 인한 광범위한 표적 지정이 증가할 것이라고 덧붙이며, 비인간화가 표적 개인의 기본적 인권과 존엄성을 훼손할 것이라고 말했습니다. 체계적인 살인의 역사는 이미 그 효과를 입증하고 있습니다.