商务部下属的美国人工智能安全研究所宣布了其领导团队的五名新成员。 五名新成员中，有一位预测人工智能的发展有50%的机会最终造福人类。 但这并不是他唯一的介绍； 他进行了一些非常重要的创新。
AI安全团队新成员
关于人工智能将成为人类生存威胁的争论已经持续了很长一段时间，但许多专家表示，这种说法被夸大和过度炒作，这种类型的预测可能会阻碍该领域的进步。 新任命的团队当前的任务是鼓励人工智能的发展，使人工智能造福于人类，反对美国国家标准与技术研究院 (NIST) 的这种有害看法。
NIST 主任兼商务部负责标准和技术的副部长 Laurie E. Locascio 表示：
“我非常高兴地欢迎这些才华横溢的专家加入美国人工智能安全研究所领导团队，帮助建立测量科学，支持安全可靠的人工智能发展。 他们每个人都带来了独特的经验，将帮助该研究所为未来的人工智能安全奠定坚实的基础。”
新成员中包括首席视觉官 Adam Russell，他也是加州大学信息科学研究所人工智能部门的主任。 Rob Reich教授将担任高级顾问，他来自斯坦福大学，担任以人为中心的人工智能研究所副所长，同时也是政治学专家。
Mara Quintero Campbell 被任命为首席运营官兼幕僚长，她目前在商务部经济发展管理局担任副首席运营官。 马克·拉托内罗 (Mark Latonero) 将担任国际事务负责人，他来自白宫科技政策办公室，担任国家人工智能计划办公室副主任。
人工智能毁灭者登场——但还有更多
这位被称为“AI 毁灭者”的新成员不是别人，正是保罗·克里斯蒂安诺 (Paul Christiano)。 他被任命为团队人工智能安全负责人。 他是前 OpenAI 研究员、Alignment 研究中心创始人。 他还是一种称为强化学习的基础人工智能安全技术的发明者，该技术结合了人类反馈。 他说，在一次播客上被问及人类的人工智能野心是否有可能以末日告终后，他被贴上“人工智能末日论者”的标签，对此他表现出了对人类注定末日的相当担忧。
“我认为人工智能接管的可能性可能有 10-20%，很多人都死了，我对此非常认真。”
他还说，
“总的来说，在拥有人类水平的人工智能系统后不久，你的厄运概率可能会达到 50/50。”
资料来源：无银行播客。
克里斯蒂安诺在 Bankless 播客上与主持人大卫·霍夫曼和瑞安·肖恩·亚当斯一起表达了这些想法，但他坚称自己的观点并不像著名的人工智能末日论者埃利泽·尤德科斯基那样极端，埃利泽·尤德科斯基提出了一个全面的末日场景。
美国商务部长吉娜·雷蒙多也表示，为了维护负责任人工智能的全球领导地位，确保人工智能安全并降低与之相关的风险，我们需要来自国家的顶尖人才，这就是为什么选择这些人，他们是最优秀的现在加入美国人工智能安全研究所的执行领导团队。
美国商务部新闻稿可在此处。
