미래에 AI가 자율적으로 전쟁을 치를 것인가? 아니면 이미 그 단계에 도달했는가?

인공지능은 인간의 삶 모든 측면에 영향을 미칠 것으로 예상되지만, 전문가들이 가장 우려하는 것은 전쟁 분야에서의 적용이며, 그들의 우려는 타당합니다. 미군은 인간이 조종하는 항공기와 AI가 조종하는 전투기 간의 첫 번째 공중전을 수행했습니다.

한편, AI는 이미 가자 지구와 우크라이나와 같은 실제 전쟁 지역에서 표적을 선정하고 있습니다. 이스라엘 출판사 +972 Magazine의 연구에 따르면 이스라엘은 '라벤더'라는 AI 알고리즘을 배치하여 잠재적 표적을 식별하고 있으며, 인간의 의사결정 개입은 최소화되어 수많은 민간인 피해가 발생했습니다.

전 세계 국가들이 AI 무기를 테스트 중입니다

따라서 우리는 무분별한 AI의 전쟁 활용이 인류에 치명적인 영향을 미칠 수 있음을 알 수 있습니다. 표적을 공격하기 전에 주요 의사결정자로서 강력한 인간 통제가 필수적입니다. 러시아는 또한 우크라이나를 표적으로 삼기 위해 이란 드론을 사용하고 있으며, 우크라이나는 AI 유도 무기와 전통적 무기 지원을 위해 서방 동맹국에 의존하고 있습니다. 우크라이나는 최근 러시아 내부 1,300km 지점의 몇몇 석유 정유공격을 공격했습니다. 이러한 사실들은 AI가 인간 생명뿐만 아니라 인간 문명을 지원하는 핵심 자원과 공급망에도 위험을 초래함을 보여줍니다.

미국 공군은 최근 DARPA의 에어 컴뱃 이볼루션(ACE) 프로젝트 하에서 AI가 탑재된 F-16의 공중전 테스트를 진행했습니다. 이 프로젝트는 몇 년 전에 시작되었습니다. F-16 연구용 항공기의 고도로 수정된 버전에는 AI 소프트웨어가 탑재되었습니다. 이 항공기는 X-62 VISTA(Variable Stability In-flight Simulator Test Aircraft)로 명명되었으며, 인간 조종사가 조종하는 표준 F-16들과 여러 차례 공중전을 치렀습니다.

기자회견에 따르면 미국 공군 관계자는 VISTA가 인간 조종사와 동등한 성능을 보였으며, 항공기에 탑재된 AI 시스템의 훈련 과정에 대해 설명했습니다. 

머신러닝은 무인 항공기 산업에 또 다른 차원을 제공했으며, 미군은 수십 년 동안 이러한 자율 항공기를 운용해 왔습니다. 그러나 상대와의 근접 교전이 요구되는 공중전은 관련 위험으로 인해 항공 역사상 시도된 적이 없으며 그 자체로 역사적인 사건입니다.

AI 위협을 완화하기 위한 긴급 입법이 필요합니다

많은 국가들이 인간 개입 없이 표적을 식별하고 공격할 수 있는 공중 또는 지상 자율 차량을 개발하고 있습니다. 

유엔의 2020년 보고서에 따르면, 리비아 전쟁 중 군사 드론이 병사를 공격했으며, 이 드론은 로켓 공격에서 도망치는 적 민병대원들을 스스로 공격한 것으로 예상됩니다.

위에서 설명된 관행을 살펴볼 때, 국제 사회가 모든 이해관계자를 참여시켜 이 문제들을 긴급히 해결하기 위해 한자리에 모이는 것은 의심의 여지가 없습니다. 

AI는 아직 성숙한 기술로 자리 잡지 못했으며 지속적으로 진화하고 있어 막대한 잠재력을 보이고 있습니다. 또한 적절히 규제되지 않을 경우 인간 존재 자체에 심각한 영향을 미칠 수 있습니다.