구글 전 CEO 에릭 슈미트는 인공지능 개발을 위한 '맨해튼 프로젝트' 방식에 대해 경고했다

수요일에 발표된 정책 문서에서 전 구글 CEO 에릭 슈미트는 미국이 AI 시스템 개발을 위한 맨해튼 스타일의 프로젝트를 추진해서는 안 된다고 경고했습니다. 

이라는 논문초지능 전략에서는 초지능 AI 시스템의 통제권을 확보하기 위해 공격적으로 경쟁하는 것은 중국과 같은 국가들의 보복을 초래할 수 있다고 언급했습니다. 이러한 보복은 사이버 공격의 형태로 나타날 수 있으며, 이는 국제 관계에 직접적인 영향을 미칠 수 있습니다. 

이 정책 보고서는 스케일 AI(Scale AI) CEO 알렉산드르 왕(Alexandr Wang)과 AI 안전 센터(Center for AI Safety) 소장 댄 헨드릭스(Dan Hendricks)가 공동 집필했습니다. 공동 저자들은 "[A] AGI를 위한 맨해튼 프로젝트는 경쟁국들이 지속적인 불균형이나 전면전을 막기 위해 나서기보다는 묵인할 것이라고 가정한다"고 기술했습니다. 

저자들은 또한 "초강력 무기와 세계 지배를 위한 노력은 적대적인 대응 조치를 촉발하고 긴장을 고조시킬 위험이 있으며, 결국 이 전략이 확보하려는 안정 자체가 훼손될 수 있다"고 덧붙였다.

이 논문은 미국 의회 위원회가 인공지능(AI) 개발을 위한 "맨해튼 프로젝트 스타일" 자금 지원 계획을 제안한 지 불과 몇 달 만에 발표되었습니다. 이 프로젝트는 1940년대 미국의 원자폭탄 개발 노력을 모델로 합니다. 

크리스 라이트 미국 에너지부 장관은 언급했습니다 미국이 인공지능 분야에서 "새로운 맨해튼 프로젝트"를 시작할 것이라고dent 의 리더십 아래 미국은 글로벌 AI 경쟁에서 승리할 것이지만, 먼저 에너지 분야에서의 주도권을 되찾고 미국의 경쟁력을 회복해야 한다"고 말했습니다.

미국의 여러 산업계 리더와 정책 입안자들은 AI 개발을 위한 정부 지원 프로그램을 추진하는 것이 중국과 같은 국가들과 경쟁하는 최선의 방법이라고 주장해 왔습니다. 그러나 초지능 전략 보고서는 이러한 생각에 이의를 제기합니다. 

에릭 슈미트는 이를 상호확증파괴라고 부른다. 

저자는 세계 강대국들이 핵무기 독점을 피하는 것처럼(예방적 방해 공작이라는 형태로 보복을 유발할 수 있기 때문), 미국도 강력한 AI 시스템으로 지배를 시도하는 데 신중해야 한다고 주장했습니다.

에릭 슈미트는 MAIM(Mutual Assured AI Failure, 상호확증AI오작동)이라는 개념에 대해 언급했습니다. 이는 다른 국가의 정부가 AGI가 무기화될 때까지 기다리지 않고 AI 기반 위협을 적극적으로 무력화하려는 것을 의미합니다. 

저자들은 미국이 "초지능 경쟁에서 승리하는 것"에 집중하기보다는 다른 나라들이 그러한 시스템을 구축하는 것을 저지할 방법을 개발해야 한다고 주장했습니다. 또한 미국은 "위협적인 AI 프로젝트를 무력화하기 위해 사이버 공격 역량을 확대해야 한다"고 덧붙였습니다.

그러나 트럼프 행정부는 AI 경쟁에서 미국을 앞세우는 데 확고한 의지를 보이고 있습니다. 그러나 슈미트는 전 세계가 미국이 AI를 한계까지 밀어붙이는 것을 지켜보는 가운데, 방어적인 접근 방식을 고려하는 것이 현명하다고 주장합니다.