미래에 인공지능이 자율적으로 전쟁을 수행하게 될까요? 아니면 이미 그런 시대가 온 걸까요?

인공지능은 인간 삶의 모든 측면에 영향을 미칠 것으로 예상되지만, 전문가들이 가장 우려하는 것은 전쟁에서의 활용이며, 이는 결코 틀린 우려가 아닙니다. 미군은 이미 인간이 조종하는 항공기와 인공지능이 조종하는 전투기 간의 첫 공중전을 실시했습니다.

반면, AI는 이미 가자지구와 우크라이나 같은 실제 전쟁 지역에서 공격 대상을 결정하고 있습니다. 이스라엘의 한 매체인 +972 매거진의 보도에 따르면, 이스라엘은 라벤더라는 AI 알고리즘을 사용하여 잠재적 공격 목표를dent했으며, 이 과정에서 인간의 판단 개입이 최소화되어 수많은 민간인 사상자가 발생했다고 합니다.

전 세계 여러 나라들이 인공지능 무기를 시험하고 있다

보시다시피, 전쟁에서 인공지능을 부주의하게 사용하는 것은 인류에게 파괴적인 영향을 미칠 수 있습니다. 목표물을 타격하기 전에는 반드시 인간의 강력한 통제와 최종 결정권이 필요합니다. 러시아는 이란산 드론을 이용해 우크라이나를 공격하고 있으며, 우크라이나는 서방 동맹국으로부터 인공지능 유도 무기와 기존 무기 지원을 받고 있습니다. 최근에는 러시아 영토 1,300km 깊숙이 위치한 석유 정제 시설을 공격하기도 했습니다. 이러한 사실들은 인공지능이 인간의 생명뿐 아니라 인류 문명을 지탱하는 핵심 자원과 공급망에도 얼마나 큰 위험을 초래할 수 있는지를 보여줍니다.

미 공군은 최근 DARPA의 공중전 진화(ACE) 프로젝트의 일환으로 인공지능(AI)이 탑재된 F-16 전투기를 공중전에서 시험했습니다. 이 프로젝트는 몇 년 전부터 진행되어 왔습니다. 고도로 개조된 F-16 연구용기에 AI 소프트웨어가 탑재된 이 전투기는 X-62 VISTA(Variable Stability In-flight Simulator Test Aircraft)라는 이름이 붙었으며, 인간 조종사가 조종하는 일반 F-16 전투기와 여러 차례 공중전을 펼쳤습니다.

미 공군 관계자들은 기자회견에서 VISTA가 인간 조종사와 동등한 수준의 조종 성능을 보였다고 밝혔으며, 항공기에 탑재된 AI 시스템의 훈련 과정에 대해 설명했습니다. 

머신러닝은 무인 항공기 산업에 새로운 차원을 열어주었고, 미군은 수십 년 동안 이러한 자율 비행체를 운용해 왔지만, 적기와 근접전을 벌여야 하는 공중전은 위험 부담이 매우 크기 때문에 항공 역사상 전례 없는 일이며, 이전에는 시도된 적이 없었습니다.

인공지능의 위협을 완화하기 위해서는 시급한 법률 제정이 필요하다

많은 국가들이 인간의 개입 없이 목표물을dent하고 타격할 수 있는 자율 주행 차량(공중 또는 지상)을 개발하고 있는 가운데,. 

2020년 유엔 보고서에 따르면, 리비아 전쟁 중 군용 드론이 병사들을 공격했으며, 해당 드론은 로켓 공격을 피해 도망치는 적군 민병대원들을 향해 자체적으로 공격한 것으로 추정됩니다.

위에서 설명한 사례들을 살펴보면, 국제 사회가 한자리에 모여 모든 이해관계자들을 참여시켜 이러한 문제들을 시급히 해결해야 한다는 점은 의심의 여지가 없습니다. 

인공지능은 아직 기술적으로 성숙하지 않았으며 끊임없이 진화하고 있습니다. 막대한 잠재력을 보여주고 있지만, 제대로 규제되지 않으면 인류의 생존 자체에 심각한 결과를 초래할 수 있습니다.