연방정부, 인공지능 안전 연구소에 '인공지능 비관론자' 등 5명의 신임 이사 임명

미국 상무부 산하 AI 안전 연구소(AI Safety Institute)가 리더십 팀에 5명의 신임 위원을 발표했습니다. 5명의 신임 위원 중 한 명은 인공지능 개발이 인류를 멸망시킬 가능성을 50%로 예측했습니다. 하지만 이것이 그의 유일한 소개는 아닙니다. 그는 몇 가지 매우 중요한 혁신을 이루어냈습니다.

AI 안전팀의 새로운 멤버

인공지능이 인간에게 실존적 위협이 될 것이라는 주장은 꽤 오랫동안 제기되어 왔지만, 많은 전문가들은 이러한 주장이 과장되고 과대평가되었으며, 이러한 예측은 해당 분야의 발전을 저해할 수 있다고 지적합니다. 새로 임명된 팀의 과제는 미국 국립표준기술원(NIST)이 인공지능에 해롭다고 여기는 이러한 인식에 맞서, 인공지능이 인간에게 유익하도록 개발을 장려하는 것입니다.

NIST 이사이자 표준 및 기술 담당 상무부 차관인 Laurie E. Locascio는 다음과 같이 말했습니다.

"미국 AI 안전 연구소 리더십 팀에 이처럼 뛰어난 전문가들이 합류하게 되어 매우 기쁩니다. 안전하고 신뢰할 수 있는 AI 개발을 뒷받침할 측정 과학을 확립하는 데 기여하게 되어 매우 기쁩니다. 각 전문가는 연구소가 미래 AI 안전을 위한 탄탄한 기반을 구축하는 데 도움이 될 고유한 경험을 제공합니다."

신임 위원 중에는 캘리포니아 대학교 정보과학연구소 AI 부문 소장이자 최고 비전 책임자인 애덤 러셀이 있습니다. 롭 라이히 교수가 수석 고문을 맡게 되는데, 그는 스탠퍼드 대학교 출신으로 인간 중심 AI 연구소 부소장을 맡고 있으며 정치학 전문가이기도 합니다.

마라 킨테로 캠벨이 최고운영책임자(COO) 겸 비서실장으로 임명되었으며, 현재 상무부 경제개발청(EDA)에서 부최고운영책임자(COO)를 맡고 있습니다. 마크 라토네로는 국제협력 담당 책임자를 맡을 예정이며, 백악관 과학기술정책실(Office of Science and Technology Policy) 출신으로 국가 AI 이니셔티브 사무국(National AI Initiative Office) 부국장을 맡고 있습니다.

AI 둠머가 탑승했지만 그 이상의 의미가 있습니다.

AI 파멸론자(AI doomer)로 불리는 새 멤버는 바로 폴 크리스티아노입니다. 그는 팀의 AI 안전 책임자로 임명되었습니다. 그는 전 OpenAI 연구원이자 얼라인먼트 연구 센터(Alignment Research Center)의 설립자입니다. 또한 인간의 피드백을 활용하는 강화 학습이라는 AI 안전 기술의 기초를 만든 사람이기도 합니다. 그는 팟캐스트에서 인간의 AI 야망이 파멸로 끝날 가능성에 대한 질문을 받고 AI 파멸론자라는 딱지를 붙였습니다. 그는 당시 인류의 멸망에 대해 상당한 우려를 표명했다고 밝혔습니다. 

"제 생각에는 AI가 세상을 지배할 확률은 10~20% 정도일 겁니다. 대부분의 인간이 죽을 수도 있고요. 저는 이를 매우 심각하게 받아들입니다."

그는 또한 이렇게 말했습니다

"전반적으로 보면, 인간 수준의 AI 시스템을 갖추게 되면 곧 멸망할 확률이 50/50에 가까워질 겁니다."

출처: Bankless 팟캐스트.

크리스티아노는 데이비드 호프만과 라이언 숀 애덤스가 진행한 Bankless 팟캐스트에서 이러한 생각을 피력했지만, 자신의 견해는 완전한 멸망 시나리오를 제시한 유명한 AI 파멸론자 엘리에저 유드코프스키의 견해만큼 극단적이지는 않다고 주장했습니다.

지나 라이몬도 미국 상무부 장관은 또한 책임 있는 AI에 대한 세계적 리더십을 유지하고 AI 안전을 보장하며 이와 관련된 위험을 완화하기 위해서는 국가적으로 최고의 인재가 필요하다고 말했습니다. 이것이 바로 각 분야에서 가장 뛰어난 인재를 선발하여 미국 AI 안전 연구소 의 임원진에 합류시킨 이유입니다 .