상무부 산하 미국 AI 안전 연구소(US AI Safety Institute)는 리더십 팀에 5명의 새로운 구성원을 발표했습니다. 신임 회원 5명 중에는 인공지능의 발달로 인류가 멸망할 확률이 50%라고 예측한 사람도 있다. 그러나 이것이 그의 유일한 소개는 아니다. 그의 벨트 아래에는 몇 가지 매우 중요한 혁신이 있습니다.
AI 안전팀의 새로운 구성원
인공지능이 인간에게 실존적 위협이 될 것이라는 주장은 오랫동안 지속되어 왔지만, 많은 전문가들은 그것이 과장되고 과대평가되었으며, 이러한 유형의 예측은 해당 분야의 발전을 방해할 수 있다고 말합니다. 새로 임명된 팀의 임무는 국립표준기술연구소(NIST)의 해악에 대한 인식에 맞서 AI가 사람들에게 유익이 되도록 개발을 장려하는 것입니다.
NIST 이사이자 표준 기술 상무부 차관인 Laurie E. Locascio는 다음과 같이 말했습니다.
“안전하고 신뢰할 수 있는 AI 개발을 지원하는 측정 과학을 확립하는 데 도움을 주기 위해 이러한 재능 있는 전문가들을 미국 AI 안전 연구소 리더십 팀에 합류하게 된 것을 매우 기쁘게 생각합니다. 그들은 각각 연구소가 미래의 AI 안전을 위한 견고한 기반을 구축하는 데 도움이 될 독특한 경험을 제공합니다.”
새로운 회원 중에는 최고 비전 책임자이자 캘리포니아 대학 정보 과학 연구소의 AI 부문 이사이기도 한 Adam Russell이 포함되어 있습니다. 수석고문을 맡는 롭 라이히(Rob Reich) 교수는 스탠포드 출신으로 인간중심AI연구소 부소장을 맡고 있으며 정치학 전문가이기도 하다.
Mara Quintero Campbell은 최고 운영 책임자(COO) 및 최고 운영 책임자(COO)로 임명되었으며 현재 상무부 경제 개발청에서 부최고 운영 책임자(COO)로 재직하고 있습니다. Mark Latonero는 국제 참여 책임자가 될 것입니다. 그는 백악관 과학기술정책실 출신이며 국가 AI 이니셔티브 사무국(National AI Initiative Office)의 부국장으로 일하고 있습니다.
AI 파머 탑재 - 하지만 그 이상의 것이 있습니다
AI 두머로 불리는 새 멤버는 바로 폴 크리스티아노다. 그는 팀의 AI 안전 책임자로 임명되었습니다. 그는 전 OpenAI 연구원이자 Alignment Research Center의 창립자입니다. 그는 또한 인간의 피드백을 통합하는 강화 학습으로 알려진 기초적인 AI 안전 기술의 발명자이기도 합니다. 그는 팟캐스트에서 인간의 AI 야망이 파멸로 끝날 가능성에 대한 질문을 받고 AI 파멸에 대한 상당한 우려를 표명한 후 AI 파멸이라는 꼬리표를 얻었습니다.
"아마도 AI가 장악할 확률은 10~20% 정도일 것입니다. 대부분의 인간이 사망합니다. 저는 이를 매우 심각하게 받아들입니다."
그는 또한 말했다,
"전반적으로 인간 수준의 AI 시스템을 갖춘 직후 파멸 가능성이 최대 50/50까지 높아질 수 있습니다."
출처: Bankless 팟캐스트.
Christiano는 진행자 David Hoffman 및 Ryan Sean Adams와 함께하는 Bankless 팟캐스트에서 이러한 생각을 표현했지만, 그는 자신의 견해가 완전한 파멸 시나리오를 제안하는 유명한 AI 두머 Eliezer Yudkowsky의 견해만큼 극단적이지는 않다고 주장합니다.
지나 라이몬도(Gina Raimondo) 미국 상무장관도 책임 있는 AI에 대한 글로벌 리더십을 보호하고 AI 안전을 하며 이와 관련된 위험을 완화하기 위해서는 국가 최고의 인재가 필요하며, 이것이 바로 이러한 개인이 선정된 이유라고 말했습니다. 이제 미국 AI 안전 연구소(US AI Safety Institute)의 경영진 리더십 팀에 합류하게 되었습니다.
미국 상무부 보도 자료는 여기에서 .
