AI의 미성숙함에도 불구하고 전투 배치에 대한 경쟁이 치열하다

최근 헤드라인은 인공지능의 발전에 집중되어 있습니다. 하지만 AI는 수십 년간 존재해 왔으며, 다양한 군사 및 방위 응용 분야에서 미래의 전쟁 방식에서 큰 부분을 차지할 것입니다.

군대뿐만 아니라, 당신은 이미 인공지능에 크게 의존하는 기기에서 이 텍스트를 읽고 있을 수 있으며, 따라서 최근의 떠들썩함 이전부터 이미 어떤 형태로든 AI를 사용해 왔을 것입니다. 

예를 들어 음식이나 엔터테인먼트를 위해 온라인으로 결제하거나, 얼굴이나 지문으로 휴대폰을 잠금 해제하거나, 소셜 미디어에 참여하거나, 휴대폰 앱을 통해 여행을 예약한 모든 상황에서 AI가 사용되었을 가능성이 높습니다. 

우리는 다양한 방식으로 AI에 익숙해졌으며, 종종 인지하지 못한 채 일상생활에 통합해 왔습니다.

군사 AI는 제2차 세계 대전부터 존재해 왔다

무기가 제2차 세계 대전 이후 일부 결정을 내릴 수 있었지만, 인공지능은 이제 훨씬 더 많은 결정을 내릴 수 있게 해주며, 결국 일상화될 것입니다. 

만약 누군가가 공격을 받고 얼굴 인식 소프트웨어를 통해 신원이 확인된다면 어떻게 될까요? 가장 좋은 식당을 찾는 대신, 유사한 소프트웨어가 항공기에 표적에 대한 공습을 지시한다면 어떻게 될까요? 

또한 읽기: AI 군사 시스템의 채택은 전쟁의 음울한 전환을 예측하는가?

지금까지 이는 정말 큰 문제로 보입니다. 질문은, AI 시스템이 실제로 생명과 죽음을 결정하는 결정을 스스로 내릴 수 있는가 하는 것입니다. 그들의 정확성은 완벽하지 않으며 상황에 따라 다르며, 항상 옳은 것은 아니라는 것을 우리는 알고 있습니다.

실제 분쟁 지역에서는 AI가 이미 가자나 우크라이나와 같은 대상자를 선택하고 있습니다. 이스라엘은 Lavender라는 이름의 인공지능(AI) 시스템을 사용하여 가능한 표적을 선택했으며, 이는 최소한의 인간 의사결정 적용 가능성을 가지며, 이스라엘 뉴스 매체 +972 Magazine에 발표된 연구에 따르면 많은 민간인 사상자를 초래했다고 합니다.

기계는 냉정하게 수행할 수 있다

최근 오스트리아는 AI 무기의 파괴적인 영향을 다루기 위해 AI 무기에 대한 규제를 다루기 위한 회의를 개최했습니다. AI는 이미 인간과 그들의 정착지를 공격하고 표적 삼고 있습니다. 오스트리아 외무장관 알렉산더 샬렌베르크는 다음과 같이 말했습니다.

“우리는 이 순간을 행동 없이 지나갈 수 없습니다. 인간의 통제를 보장하기 위해 국제 규칙과 규범에 동의할 때입니다.”

출처: Reuters.

많은 군대가 전쟁 지역에 배치하고 있는 기술은 아직 성숙도가 낮으며, 표적을 결정하는 데 사용되지는 않습니다. 우리가 지능이라고 부르는 기술은 아직 고양이 뇌만큼의 능력을 갖추지 못했으며, 전문가들은 향후 몇 년 안에 쥐의 지능 수준을 달성해도 큰 성과라고 말합니다. 

하지만 그 의존도는 매우 높아, 대상과 화력을 가진 모두를 비인간화하는 방식으로 잔인하게 배치됩니다. 이는 도덕적, 인도적, 윤리적 우려에 대한 심각한 질문을 제기합니다. 

우리는 인간으로서 불만이 있지만, 슬픔에 잠긴 병사를 방지하기 위해 군대는 이제 이 새로운 무기를 사용할 수 있습니다. +972 Magazine은 정보원 출처가 다음과 같이 말했다고 언급합니다.

“기계는 냉정하게 그것을 수행했습니다. 그리고 그것이 더 쉽게 만들었습니다.”

출처: +972 Magazine.

사람들이 선택 과정에 관여하는 것이 정말 중요한가요? 다른 Lavender 사용자에게 질문했을 때, 그는 그 시점에서 각 표적에 20초를 할애하여 하루에 수십 개를 완료할 것이라고 말했습니다. 공식적인 승인 서명 외에도 그는 인간으로서 추가적인 가치를 지니지 않았습니다. 이는 시간을 상당히 절약할 수 있었습니다.

우리가 얼마나 많은 결정권을 기계에게 자발적으로 양도하고 있는지 이해하기 쉽습니다.

국제 협정은 아직 멀었다

미국은 인공지능과 자율성의 책임 있는 군사적 사용에 관한 정치적 선언을 통해 규제 노력을 시작했습니다. 이 선언에는 호주도 포함됩니다. 그러나 국제 협정은 아직 매우 멀리 있습니다.

이 선언은 보장을 구현하는 것이 필수적이라고 언급하며, 다음과 같이 밝힙니다.

“국가들은 군사 AI 기능의 실패 위험을 완화하기 위해 적절한 보장을 구현해야 합니다. 여기에는 원치 않는 결과를 감지하고 피하는 능력, 예를 들어 시스템이 원치 않는 행동을 보일 때 배치된 시스템을 비활성화하거나 비활성화하는 방식으로 대응하는 능력이 포함됩니다.”

출처: 미국 국무부.

이 문서는 또한 군사적 AI 사용이 윤리적이어야 하며, 국제 안보를 강화해야 한다고 강조합니다. 그러나 위에서 논의한 바와 같이 현실은 완전히 다른 그림을 보여줍니다.

적군 군사 요원을 찾고 위치를 파악하는 것은 이러한 시스템의 한 가지 응용 분야이며, 폭발적인 혁신이 진행됨에 따라 어떤 복잡한 군사적 용도가 나올지 우리는 알 수 없습니다. 

또한 읽기: 카스퍼스키는 러시아 군대를 돕는 주장에 대해 부인한다

현재 시점에서 전쟁에서 AI를 배제하려는 논쟁은 옵션으로 보이지 않지만, 전 세계 입법자와 분쟁에 관여한 정부들은 AI가 가진 능력 부족과 우리가 인간에게 초래할 수 있는 잠재적인 혼란을 준수해야 합니다.

현재 정책 입법은 혁신의 속도를 따라가지 못하고 있으며, 이는 부분적으로라도 해결되어야 합니다. 우리가 그냥 앉아 ‘와! AI가 또 1,000명을 죽였다. AI는 무엇을 제시할까?’라고 말할 수는 없기 때문입니다. 우리는 아직 알지 못하지만, 정책 입법자들이 해야 할 일은 천재들만의 질문이 아닙니다.

Aamir Sheikh가 Cryptopolitan에서 보도