최근 언론에서는 인공지능의 발전이 주목받고 있습니다. 하지만 인공지능은 이미 수십 년 전부터 존재해 왔으며, 앞으로도 다양한 군사 및 국방 분야에서 전쟁 수행 방식에 큰 영향을 미칠 것입니다.
군대뿐만이 아닙니다. 여러분은 이미 인공지능에 크게 의존하는 기기로 이 글을 읽고 있을지도 모릅니다. 따라서 최근의 논란 이전에도 이미 어떤 형태로든 인공지능을 활용했을 가능성이 높습니다.
인공지능은 여러분이 온라인으로 무엇이든 결제하는 상황, 예를 들어 음식이나 오락 비용을 지불하는 경우, 얼굴이나 지문을 사용하여 휴대전화 잠금을 해제하는 경우, 소셜 미디어를 이용하는 경우, 또는 휴대전화 애플리케이션을 통해 여행 일정을 예약하는 경우 등 거의 모든 상황에서 사용되었을 가능성이 높습니다.
우리는 다양한 방식으로 인공지능에 익숙해졌고, 종종 의식하지 못하는 사이에 일상생활에 인공지능을 접목시켜 왔습니다.
군사 인공지능은 제2차 세계 대전 이후부터 존재해 왔다
제2차 세계 대전 이후 무기가 스스로 결정을 내릴 수 있게 된 것은 사실이지만, 인공지능 덕분에 이제는 훨씬 더 많은 결정을 내릴 수 있게 되었고, 결국에는 이러한 자율적인 판단이 보편화될 것입니다.
만약 누군가가 공격을 당했는데 얼굴 인식 소프트웨어로dent이 파악된다면 어떨까요? 최고의 레스토랑을 추천하는 대신, 비슷한 소프트웨어가 비행기를dent하여 특정 목표물을 공습하도록 유도한다면요?
관련 기사: 인공지능 군사 시스템 도입은 전쟁 양상에 불길한 변화를 예고하는가?
지금까지는 정말 심각한 문제로 보입니다. 문제는 인공지능 시스템이 스스로 생사를 결정하는 중요한 판단을 내릴 수 있느냐는 것입니다. 인공지능의 정확도는 완벽하지 않고 상황에 따라 달라지며, 항상 옳은 것은 아니라는 점을 우리는 알고 있습니다.
실제 분쟁 지역에서는 이미 인공지능(AI)이 가자지구와 우크라이나처럼 공격 대상을 선택하고 있습니다. 이스라엘 뉴스 매체 +972 매거진에 실린 연구에 따르면, 이스라엘은 인간의 의사결정 개입이 거의 없는 '라벤더'라는 인공지능 시스템을 이용해 공격 대상을 선정했으며, 이로 인해 상당수의 민간인 사상자가 발생했다고 합니다.
기계는 냉정하게 그 일을 해낼 수 있다
최근 오스트리아는 인공지능 무기가 초래할 수 있는 파괴적인 영향에 대처하기 위해 인공지능 무기 규제에 관한 회의를 개최했습니다. 인공지능은 이미 인간과 그들의 거주지를 공격하고 표적으로 삼고 있습니다. 오스트리아 외무장관 알렉산더 샬렌베르크는 다음과 같이 말했습니다
“우리는 이 순간을 그냥 지나칠 수 없습니다. 지금이야말로 인간의 통제를 보장하기 위한 국제적인 규칙과 규범에 합의해야 할 때입니다.”
출처: 로이터 .
많은 군대가 전쟁터에 배치하는 기술은 아직 성숙 단계에 이르지 못했고, 누구를 공격 목표로 삼을지 결정하는 데에도 사용되지 않고 있습니다. 우리가 지능형 기술이라고 부르는 것은 아직 고양이의 두뇌 수준에도 미치지 못합니다. 전문가들조차도 앞으로 몇 년 안에 쥐의 지능 수준에 도달하는 것만으로도 큰 성과가 될 것이라고 말합니다.
하지만 무기에 대한 의존도가 너무 높아, 표적과 화력을 가진 자 모두를 비인간화하는 잔혹한 방식으로 사용되고 있습니다. 이는 도덕적, 인도주의적, 윤리적 문제에 대한 심각한 의문을 제기합니다.
인간이라면 누구나 불만을 품기 마련이지만, 군인의 슬픔을 막기 위해 군대는 이제 이 새로운 무기를 사용할 수 있다고 +972 매거진이 정보기관의 비밀 소식통을 인용해 보도했습니다
"기계가 냉정하게 일을 처리했어요. 덕분에 일이 더 쉬워졌죠."
출처: +972 매거진
사람들이 선정 과정에 참여하는 것이 정말 중요할까요? 다른 라벤더 사용자가 이 질문을 던지자, 그는 당시에는 각 목표에 20초씩 투자해서 하루에 수십 개씩 완료했다고 답했습니다. 공식적인 승인 도장을 받는 것 외에는 인간으로서 특별한 가치가 없었기 때문입니다. 오히려 시간을 많이 절약할 수 있었다고 합니다.
우리 인간이 얼마나 많은 의사결정 권한을 기계에 기꺼이 넘겨주고 있는지 이해하기는 쉽습니다.
국제 협약은 아직 멀었다
미국은 인공지능 및 자율 시스템의 책임 있는 군사적 이용에 관한 정치 선언을 통해 규제 노력을 시작했습니다. 이 선언에는 호주도 포함되어 있습니다. 그러나 국제적인 합의가 이루어지기까지는 아직 갈 길이 멉니다.
선언문은 안전장치 확보가 필수적이라고 언급하며, 다음과 같이 명시하고 있습니다
"각국은 군사 인공지능 역량의 실패 위험을 완화하기 위해 적절한 안전장치를 마련해야 합니다. 이러한 안전장치에는 의도치 않은 결과를 탐지하고 방지하는 능력, 그리고 시스템이 의도치 않은 동작을 보일 경우 배치된 시스템을 해제하거나 비활성화하는 등의 대응 능력이 포함됩니다."
출처: 미국 국무부 .
이 문서는 또한 군사 분야에서의 AI 사용이 국제 안보 강화와 더불어 윤리적일 수 있고 또 그래야 한다고 강조합니다. 그러나 위에서 논의한 바와 같이 현실은 전혀 다른 양상을 보여줍니다.
적군 군인의 위치를 파악하는 것은 이러한 시스템의 한 가지 응용 분야입니다. 폭발물 기술이 급속도로 발전하고 있는 만큼, 앞으로 어떤 복잡한 군사적 용도가 등장할지 예측하기 어렵습니다.
관련 기사: 카스퍼스키, 러시아군 지원 혐의 부인
인공지능을 전쟁에서 배제하자는 논의는 현재로서는 현실적인 선택지가 아닌 것처럼 보이지만, 전 세계의 입법자들과 분쟁에 연루된 정부들은 인공지능이 아직 갖추지 못한 능력의 한계와 그것이 인간에게 초래할 수 있는 잠재적인 파괴적 결과를 반드시 인지해야 합니다.
현재 정책 결정은 혁신의 속도를 따라가지 못하고 있으며, 이는 완전히 해결할 수는 없더라도 어느 정도는 반드시 개선되어야 합니다. 단순히 "와! AI가 또 1,000명을 죽였네. AI가 앞으로 뭘 보여줄까?"라고 감탄만 할 수는 없기 때문입니다. 하지만 정책 결정자들이 무엇을 해야 할지는 천재들만의 문제가 아닙니다.
아미르 셰이크의 Cryptopolitan 보도
