킬러 알고리즘이 국제법을 앞지를 때 무슨 일이 벌어질까요?

인공지능 알고리즘을 부주의하게 사용하면 상상을 초월하는 부정적인 영향을 인류에게 미칠 수 있습니다. 지난 2년 동안 인공지능 기술이 비약적으로 발전했음에도 불구하고, 킬러 알고리즘의 부정적인 영향을 예방하기 위한 국제적인 규제는 아직 마련되지 않았습니다. 

많은 국가들이 표적 인식과 화력 증강을 위해 군사 시스템에 인공지능을 통합하고 있지만, 부주의한 사용은 파괴적인 결과를 초래할 수 있습니다. 인공지능의 부정적인 영향은 허위 정보를 통해 여론을 조작하려는 시도로 민주주의 과정을 교란하는 데서도 분명하게 드러납니다.

무고한 생명을 앗아가는 살인 알고리즘

최근 여러 국가에서 군사 시스템에 AI를 통합하겠다는 발표가 있었고, 상당수의 군사trac업체들이 드론부터 레이더 시스템, 그리고 인간 표적 식별을 위한 감시 시스템에 이르기까지 AI 기반 표적 및 사격 시스템을 출시하고 있습니다. 

이스라엘은 킬러 알고리즘을 이용해 가자지구 주민들을 표적으로 삼아 가장 부주의한 공격 방식을 사용했습니다. 이 알고리즘은 종종 잘못되거나 범죄적 과실로 사용되어, 특정 개인을 주요 표적으로 삼아 수십, 수백 명의 무고한 민간인을 살해했습니다. 가자지구 주민들에게 얼마나 큰 참상을 안겨주었는지 상상해 보십시오. 수천 명의 어린이와 여성이 목숨을 잃었고, 한 관계자는 "기계가 냉혹하게 행동했다"고 말했습니다. 정말 그럴까요? 민간인을 냉혈하게 살해하는 것은 킬러 알고리즘이 얼마나 잔인할 수 있는지 보여주는 현실입니다.

최근 이스라엘 언론사인 +972 매거진의 조사에 따르면, 이스라엘군이 공습에 인공지능(AI)을 활용한 충격적인 사실이 밝혀졌습니다. '라벤더'라는 시스템은 수천 명의 무장세력 용의자 명단을 생성하는 데 사용되었고, '고스펠'이라는 시스템은 건물과 기반 시설을 공격 목표로 선정하는 데 사용되었습니다. 이러한 전략은 민간인 거주 지역에 있는 자택에 있는 하마스 대원까지 포함하여 공격하는 것으로, 이로 인해 수백 명의 민간인이 목숨을 잃었습니다. 

이 보고서에는 정보원의 안전을 위해 신원이 공개되지 않은 이스라엘 정보 소식통 6명과의 인터뷰 내용이 포함되어 있습니다. 소식통들은 라벤더를 비롯한 여러 AI 시스템이 표적 선정에 사용되었다고 주장했습니다. 또한 이러한 시스템 사용에 대한 규제가 허술하며, 부수적 피해로 사망하거나 방치된 민간인 수를 추정했는데, 하마스의 고위 또는 하위 간부 한 명당 두 자릿수에서 세 자릿수에 이른다고 밝혔습니다. 

하지만 실제 수치는 이러한 공식 추정치를 훨씬 뛰어넘는 것으로 보이며, 이 추정치 자체도 전 세계 현대 전쟁사들과 비교했을 때 이미 가장 높은 수치였습니다. 전쟁 발발 후 첫 3개월 동안 사망한 어린이의 수도 전 세계 전쟁에서 사망한 어린이의 수를 넘어섰습니다. 그 아이들을 생각만 해도 가슴이 아픕니다.

국제 규제는 여전히 미흡하다

전쟁에서 사람을 죽이는 인공지능 알고리즘에도 불구하고, 세계 지도자들은 이러한 위협을 막기 위한 충분한 노력을 기울이지 않는 것 같습니다. 전쟁에서 인공지능을 사용하는 것에 대한 국제적인 규정은 마련되어 있지 않으며, 사람을 죽이고 민간인의 기본적인 필요를 박탈하기 위해 핵심 기반 시설을 파괴하는 것은 명백한 전쟁 범죄임에도 불구하고 말입니다. 

우리가 목격하는 것은 세계 지도자들의 립서비스뿐이며, 미국은 인공지능 기반의 킬러 알고리즘과 연계하여 사용될 수 있는 무기를 또다시 제공했습니다. 유일한 법적 조치는 남아프리카공화국이 이스라엘의 전쟁 범죄를 국제사법재판소에 제소한 것뿐입니다.

전 세계 군대가 인공지능을있으며, 많은 국가들이 이러한 시스템을 배치하여 군사적 우위를 확보하려 하고 있습니다. 지정학적 긴장 또한 이러한 발전을 부추기고 있는데, 미국에서 중국에 이르기까지 모든 국가들이 목표 선정 및 의사 결정 과정을 가속화하기 위한 인공지능 시스템 개발에 박차를 가하고 있습니다. 

지금까지는 인공지능 도입으로 정확도가 향상되고 인명 피해가 줄어든다는 주장이 제기되어 왔지만, 현실은 이러한 주장과 상반되며, 킬러 알고리즘의 위험성은 정확도 향상이라는 주장을 훨씬 능가합니다. 따라서 전 세계적인 차원에서 인공지능을 규제하기 위한 강력한 노력이 필요합니다.

+972 매거진의 보고서는 여기에서.