联邦政府任命“人工智能末日论者”为人工智能安全研究所五名新成员之一

美国商务部下属的美国人工智能安全研究所宣布了五位新的领导团队成员。其中一位曾预测人工智能发展有50%的可能性会毁灭人类。但这并非他唯一的亮点；他此前还发表过一些非常重要的创新成果。.

人工智能安全团队新成员

长期以来，关于人工智能将对人类构成生存威胁的争论一直存在，但许多专家认为这种说法被夸大其词，过度炒作，而且这种预测可能会阻碍该领域的进步。新成立的团队面临的任务是，在国家标准与技术研究院（NIST）的领导下，鼓励人工智能朝着造福人类的方向发展，以对抗这种认为人工智能有害的观点。.

美国国家标准与技术研究院院长兼商务部负责标准与技术的副部长劳里·E·洛卡西奥表示：

“我非常高兴地欢迎这些才华横溢的专家加入美国人工智能安全研究所的领导团队，他们将帮助建立测量科学，从而支持安全可靠的人工智能的发展。他们每个人都带来了独特的经验，这将有助于研究所为未来的人工智能安全奠定坚实的基础。”

新成员包括首席愿景官亚当·罗素，他同时也是加州大学信息科学研究所人工智能部门的主任。罗伯·赖希教授将担任高级顾问，他来自斯坦福大学，是人本人工智能研究所的副所长，也是政治学专家。.

玛拉·金特罗·坎贝尔被任命为首席运营官兼幕僚长，她目前在商务部经济发展署担任副首席运营官。马克·拉托内罗将担任国际事务主管，他来自白宫科技政策办公室，现任国家人工智能倡议办公室副主任。.

人工智能悲观论者已经加入——但这还不是全部。

这位被称作“人工智能末日论者”的新成员正是保罗·克里斯蒂亚诺。他被任命为团队的人工智能安全负责人。他曾是OpenAI的研究员，也是Alignment Research Center的创始人。他还是强化学习这项基础人工智能安全技术的发明者，该技术融合了人类的反馈。他之所以被贴上“人工智能末日论者”的标签，是因为在一次播客节目中，当被问及人类在人工智能领域的雄心壮志是否会以失败告终时，他表现出了对人类走向毁灭的担忧。 

“我认为人工智能统治世界的概率大概有 10% 到 20%，届时大多数人类都会死亡，我对此非常重视。”

他还说，

“总的来说，当你拥有了达到人类水平的人工智能系统后，或许很快就会面临高达50%的失败概率。”

来源：Bankless播客。.

克里斯蒂亚诺在与大卫·霍夫曼和瑞安·肖恩·亚当斯共同主持的 Bankless 播客节目中表达了这些想法，但他坚称自己的观点并不像著名的人工智能末日论者埃利泽·尤德科夫斯基那样极端，后者提出了一个彻底的末日情景。.

美国商务部长吉娜·雷蒙多还表示，为了维护负责任的人工智能领域的全球领导地位，确保人工智能安全并降低与之相关的风险，我们需要来自全国的顶尖人才，因此我们挑选了这些各自领域最优秀的人才加入美国人工智能安全研究所的执行领导团队。