UN 사무총장, AI가 핵전쟁 가능성을 높일 수 있다고 경고

인공지능 기술의 급속한 확장이 전면적인 핵전쟁의 위협을 더 높이고 있다고 유엔 사무총장 안토니우 구테흐스(António Guterres)가 경고했습니다. 녹화 영상에서 구테흐스는 국가들이 가장 강력한 무기를 구축하기 위해 경쟁하면서 인류가 “칼날 위”에 앉아 있으며 생명이 위험에 처해 있다고 말했습니다.

또한 읽기: 직원들, 오픈AI와 구글 딥마인드가 AI 위험을 숨긴다고 주장

유엔 사무총장의 경고성 영상 메시지는 6월 7일 워싱턴에서 열린 미국 군비통제협회(ACA) 연례 회의에서 상영될 예정이었습니다. 가디언 보도에 따르면 구테흐스는 핵무기 보유국들에게 “대화를 재개하고 어느 누구도 먼저 발사하지 않기로 동의하라”고 호소했습니다.

구테흐스, AI를 핵무기에서 배제해야 한다고 주장

사무총장에 따르면, 30년 이상 전 냉전 종식 이후 “핵무기의 사용, 시험 및 확산을 방지”하기 위해 구축된 체계들이 약화되었습니다.

미국과 러시아와 같은 국가들이 서로를 견제하기 위한 행동을 강화함에 따라, 이들이 AI를 활용하여 핵 발사 절차를 간소화할 수 있다는 우려가 제기되고 있습니다. 양국 모두 대륙간 탄도 미사일을 높은 경계 상태로 유지하고 있는 것으로 보고되며, 이는 몇 분의 경고만으로 발사 준비가 되어 있음을 의미합니다.

ACA 연설에서 구테흐스 연설에서 다음과 같이 말했습니다.

“인류는 칼날 위에 서 있습니다. 핵무기가 사용될 위험은 냉전 이후 최고 수준에 도달했습니다. 국가들은 질적 무력 경쟁에 참여하고 있습니다. 인공지능과 같은 기술은 위험을 증폭시키고 있습니다.”

구테흐스는 “모든 국가는 핵 사용에 대한 결정이 기계나 알고리즘이 아닌 인간에 의해 내려져야 한다는 데 동의해야 한다”고 덧붙였습니다.

2022년, 미국, 영국, 프랑스는 핵 발사 시 인간이 통제권을 유지해야 한다는 약속을 표현한 공동 성명을 발표했습니다. 러시아와 중국은 아직 유사한 약속을 하지 않았으며, 산업 매체에 따르면 미국 과학자 연맹(Federation of American Scientists)은 추정에 따르면 1986년 70,300개에서 올해 12,100개로 핵무기 수가 감소했다고 밝혔습니다.

과학자들, AI 경보 발령

구테흐스의 경고는 새로운 것이 아닙니다. 많은 과학자들이 과거에 인공지능의 위험성에 대해 경고해 왔습니다. 2018년 랜드 코퍼레이션(Rand Corporation)의 보고서는 AI 개발이 핵전쟁 위험을 증가시킨다고 밝혔습니다. 보고서는 AI, 머신러닝, 빅데이터 분석의 통합이 군대가 적의 핵 억제력을 발견, 추적, 표적 지정 및 파괴하는 능력을 향상시킬 것이라고 말했습니다.

또한 읽기: 강력한 AI가 인류를 위협한다: 전문가들이 글로벌 모라토리엄을 주장하는 이유

다른 이들도 논쟁에 뛰어들었습니다. 전 구글 제품 책임자 빌라왈 시두(Bilawal Sidhu)에게 있어 AI 논쟁은 핵무리처럼 다루거나 개방된 상태로 둘 수 있습니다. 그는 주장했습니다. 오픈소스 AI는 선한 행위자들이 나쁜 행위자들을 감시할 수 있게 하여 위험을 최소화할 것이라고 말입니다.

이전 인터뷰에서 전 미국 국무장관 헨리 키신저(Henry Kissinger)는 AI가 핵무기만큼 “중요하지만” “예측하기 어렵다”고 말했습니다. 키신저는 AI의 위험은 국제 협력과 규제를 통해 관리될 수 있다고 믿습니다.

제프리 고고(Jeffery Gogo)의 크립토폴리탄(Cryptopolitan) 보도