미 연방정부, AI 안전 연구소에 ‘AI 두머(AI Doomer)’ 5명 신규 임명

상무부 산하 미국 AI 안전 연구소는 리더십 팀을 위한 5명의 신규 멤버를 발표했습니다. 5명의 신규 멤버 중 한 명은 인공지능 개발이 인류를 파멸시킬 확률이 50%라고 예측한 인물입니다. 하지만 이것이 그의 유일한 소개가 아닙니다. 그에게는 매우 중요한 혁신 성과들이 있습니다.

AI 안전 팀의 신규 멤버

인공지능이 인간에게 존재론적 위협이 될 것이라는 주장이 오랫동안 이어져 왔지만, 많은 전문가들은 이를 과장되고 과대포장된 것이라고 말하며, 이러한 예측이 해당 분야의 발전을 저해할 수 있다고 지적합니다. 새로 임명된 팀의 과제는 국립표준기술연구소(NIST)의 해악 인식에 반하여, AI가 사람들에게 유익하도록 개발을 장려하는 것입니다.

표준기술 담당 상무부 차관 겸 NIST 소장이자 로리 E. 로카시오는 다음과 같이 말했습니다.

“저는 안전하고 신뢰할 수 있는 AI 개발을 지원할 측정 과학을 확립하는 데 도움을 줄 이러한 재능 있는 전문가들을 미국 AI 안전 연구소 리더십 팀에 환영하게 되어 매우 기쁩니다. 그들은 각자 고유한 경험을 가지고 있어, 연구소가 미래의 AI 안전을 위한 탄탄한 기반을 구축하는 데 도움이 될 것입니다.”

신규 멤버 중에는 캘리포니아 대학교 정보과학연구소 AI 부서장이자 수석 비전 책임자인 아담 러셀이 있습니다. 로브 레흐 교수는 스탠퍼드 대학교 소속으로, 인간 중심 AI 연구소의 부소장을 역임하며 정치학 전문가이기도 합니다.

마라 퀸토 캠프벨은 상무부 경제개발국 부소장을 역임 중이며, 이제 상무부 경제개발국에서 부소장 겸 사무총장으로 임명되었습니다. 마크 라토네로는 백악관 과학기술정책실 소속으로, 국가 AI 이니셔티브 사무소 부소장을 역임하며 국제 협력 책임자가 됩니다.

AI 두머가 합류했지만, 더 많은 것이 있습니다

AI 두머로 불리는 신규 멤버는 바로 폴 크리스티아노입니다. 그는 팀의 AI 안전 책임자로 임명되었습니다. 그는 전 오픈AI 연구원이자 정렬 연구센터(Alignment Research Center)의 창립자입니다. 또한 인간 피드백을 통합한 ‘강화 학습’이라는 기초적인 AI 안전 기술의 발명가이기도 합니다. 그는 팟캐스트에서 인간의 AI 야망이 파멸로 끝날 확률에 대해 질문받았을 때, 인류가 파멸될 가능성에 대해 상당한 우려를 표명하며 ‘AI 두머’라는 별명을 얻었습니다. 

“저는 AI 장악과 다수 인류 사망으로 이어질 확률이 10~20% 정도 있다고 생각합니다. 저는 이를 매우 심각하게 받아들입니다.”

그는 또한 이렇게 말했습니다.

“전반적으로, 인간 수준의 AI 시스템이 등장한 직후 파멸로 이어질 확률이 50/50에 가까워질 수도 있다고 봅니다.”

출처: Bankless 팟캐스트

크리스티아노는 호스트 데이비드 호프만과 라이언 숀 애덤스와 함께한 Bankless 팟캐스트에서 이러한 의견을 밝혔지만, 그의 견해가 완전한 파멸 시나리오를 주장하는 유명한 AI 두머인 엘리저 유크ovski의 견해만큼 극단적이지 않다고 강조합니다.

상무부 장관 지나 레이몬도는 책임감 있는 AI에 대한 글로벌 리더십을 보호하고 AI 안전을 보장하며 관련 위험을 완화하기 위해서는 국가의 최고 인재가 필요하다고 밝혔습니다. 따라서 이 분야 최고의 전문가들이 미국 AI 안전 연구소의 이사회 리더십 팀에 합류하게 됩니다.