치명적인 알고리즘이 국제법을 앞지르면 어떻게 될까

방치된 인공지능 알고리즘의 사용은 상상을 초월하는 부정적인 영향을 인간 사회에 미칠 수 있습니다. 지난 2년 동안 AI가 여러 배로 발전했음에도 불구하고, 치명적인 알고리즘의 부정적인 영향을 방지하기 위한 글로벌 규제는 아직 마련되지 않았습니다. 

많은 국가들이 표적 인식과 화력 가속화를 위해 군사 시스템에 인공지능을 통합하고 있지만, 그 부주의한 사용은 파괴적입니다. AI의 부정적인 영향은 또한 허위 주장을 통해 대중의 의견을 바꾸려는 정보전을 통해 민주적 과정을 방해하는 것으로 분명히 드러납니다.

무고한 생명을 앗아가는 치명적인 알고리즘

우리는 최근 많은 국가들에서 군사 시스템에 AI가 통합된다는 발표와 드론부터 레이더 시스템, 그리고 인간 표적 인식을 위한 감시 시스템에 이르기까지 AI 강화 표적 및 발사 시스템을 출시하는 수많은 군사 계약자들을 목격했습니다. 

가장 부주의한 배치는 이스라엘이 치명적인 알고리즘을 통해 표적 목록을 생성하여 가자 지구 주민을 표적으로 삼는 과정에서 목격되었습니다. 이러한 알고리즘은 종종 잘못되거나 범죄적 과실로 배포되어, 한 명의 잠재적 개인을 주요 표적으로 주장하며 수백 명의 무고한 민간인을 한 번에 살해합니다. 가자 지구의 민간인들에게 가져다준 혼란을 상상해 보세요. 수천 명의 어린이와 여성이 사망했으며, 한 관리가 기계가 냉정하게 그것을 수행했다고 표현했습니다. 정말로? 냉혈한 민간인 살해는 치명적인 알고리즘이 얼마나 잔인해질 수 있는지의 현실입니다.

이스라엘 출판사 +972 Magazine의 최근 조사는 이스라엘군이 공습에 AI를 사용하는 것에 대해 놀라운 사실을 발견했습니다. 라벤더(Lavender)로 알려진 시스템은 수천 명의 의심되는 무장 세력 목록을 생성하는 데 사용되었으며, 고스펠(Gospel)이라는 다른 시스템은 건물과 인프라를 표적으로 선정하는 데 사용되었습니다. 사용된 전략은 민간인 거주 지역에 있는 하마스 개인을 표적으로 삼는 것이었으며, 이 과정에서 수백 명의 민간인이 사망했습니다. 

보고서에는 출처의 안전을 위해 이름이 비공개로 유지된 여섯 명의 이스라엘 정보원 인터뷰가 포함되어 있습니다. 정보원들은 라벤더를 포함한 다른 AI 시스템들을 표적 선정에 사용했다고 주장했습니다. 그들은 이러한 시스템 사용에 대한 규제의 관대함과 민간인 사망 또는 방치된 사망이 부수적 피해로 간주되는 비율을 논의했으며, 각 하마스 고위 또는 저위 관리자의 경우 두 자리에서 세 자리 숫자에 달했습니다. 

하지만 실제 숫자는 이미 전 세계 현대 전쟁 사건들과 비교했을 때 가장 높았던 허용 추정치를 훨씬 초과하는 것으로 보입니다. 전쟁 첫 3개월 동안 사망한 어린이 수도 전 세계 전쟁에서 사망한 어린이 수를 초과했습니다. 그들을 생각하기만 해도 마음이 아픕니다.

글로벌 규제 여전히 부족

치명적인 AI 알고리즘이 전쟁에서 사람들을 죽임에도 불구하고, 글로벌 리더들이 이 재앙을 멈추기 위한 충분한 노력을 기울이지 않는 것 같습니다. 민간인 population의 기본적 인간 필요를 박탈하기 위해 사람들을 죽이고 중요한 인프라를 파괴하는 것이 명확한 전쟁 범죄임에도 불구하고, 전쟁에서의 AI 사용에 대한 글로벌 규제 세트는 없습니다. 

우리가 보는 것은 글로벌 리더들의 입술만 움직이는 말(공허한 약속)에 이어 미국으로부터의 또 다른 무기 제공이며, 이는 aforementioned 치명적인 AI 기반 알고리즘과 함께 사용될 수 있습니다. 유일한 법적 조치는 남아프리카공화국이 이스라엘에 대한 전쟁 범죄로 국제사법재판소(ICJ)에 제소한 것이었습니다.

전 세계 군대들은 인공지능을 활용하려고 노력하고 있으며, 많은 국가들이 이러한 시스템을 배치하여 군사적 우위를 점하려고 합니다. 지리적 긴장감도 이러한 발전을 부추기고 있으며, 미국에서 중국에 이르기까지 모든 국가들이 표적 선정과 의사 결정을 위한 AI 시스템을 개발하기 위해 경쟁하고 있어 프로세스를 가속화하고 있습니다.

지금까지의 주장은 AI 배포로 더 높은 정확도와 더 적은 민간인 피해라고 하지만, 현장 현실은 이러한 주장을 반박하며 치명적인 알고리즘의 위험은 정밀도 주장보다 훨씬 크며, 이는 글로벌 수준에서 AI 규제를 위한 강력한 노력을 요구합니다.

+972 매거진의 보고서는 여기에서 확인할 수 있습니다.