联邦机构在人工智能安全研究所新增五名成员，其中包括“AI末日论者”

美国商务部下属的美国人工智能安全研究所宣布了其领导团队的五名新成员。这五位新成员中，有一位曾预测人工智能发展有50%的可能性导致人类终结。但这并非他唯一的亮点；他还拥有多项非常重要的创新成果。

人工智能安全团队的新成员

长期以来一直存在一种争论，认为人工智能将对人类构成生存威胁，但许多专家认为这种观点被夸大和过度炒作，此类预测可能会阻碍该领域的发展。新组建团队的首要任务是在美国国家标准与技术研究院（NIST）的框架下，以鼓励发展的方式推动人工智能进步，使其造福人类，从而扭转这种有害的认知。

NIST局长兼商务部标准与技术副部长劳瑞·E·洛卡希奥表示：

“我非常高兴欢迎这些才华横溢的专家加入美国人工智能安全研究所的领导团队，共同建立支撑开发安全、可信人工智能的测量科学。他们各自带来的独特经验将有助于研究所为未来的人工智能安全奠定坚实基础。”

新成员包括首席愿景官亚当·拉塞尔，他同时也是加州大学信息科学研究所人工智能部门的主任。罗布·赖希教授将担任高级顾问，他来自斯坦福大学，担任以人为本的人工智能研究所副主任，同时也是政治学专家。

玛拉·金特罗·坎贝尔被任命为首席运营官兼幕僚长，她目前在美国商务部经济发展管理局担任副首席运营官。马克·拉托内罗将负责国际参与事务，他来自白宫科学技术政策办公室，并担任国家人工智能倡议办公室副主任。

AI末日论者加入——但背后还有更多故事

这位被称为“AI末日论者”的新成员正是保罗·克里斯蒂亚诺。他已被任命为团队的人工智能安全负责人。他曾是OpenAI的研究员，也是对齐研究中心（Alignment Research Center）的创始人。他还是基础人工智能安全技术——结合人类反馈的强化学习——的发明者。他获得“AI末日论者”这一标签，源于他在一次播客节目中被问及人类的人工智能愿景是否会以灾难告终时，对人类可能遭遇毁灭表达了深切担忧，他说 

“我认为，人工智能接管世界、导致绝大多数人类死亡的可能性或许在10%到20%之间，我对此非常严肃对待。”

他还表示，

“总体而言，一旦我们拥有了达到人类水平的人工智能系统，不久之后遭遇灾难的概率可能高达50/50。”

来源：Bankless播客。

克里斯蒂亚诺在与主持人大卫·霍夫曼和瑞安·肖恩·亚当斯共同参与的Bankless播客中表达了上述观点，但他强调，自己的看法并不像著名AI末日论者伊莱耶尔·尤德科夫斯基（Eliezer Yudkowsky）所主张的那样极端，后者认为将不可避免地走向全面灾难。

美国商务部长吉娜·雷蒙多还表示，为了维护全球在负责任人工智能领域的领导地位，确保 AI 安全并降低相关风险，我们需要来自本国的顶尖人才。正因如此，这些在各领域表现卓越的个人被选中，加入 美国 AI 安全研究所的 executive leadership team。