英国政府宣布建立AI安全研究所

英国政府宣布成立人工智能安全研究所（AI Safety Institute），该研究所将接管前沿人工智能工作组（Frontier AI Taskforce）的关键职能，而该工作组将继续隶属于科学与创新部（DSIT）。虽然研究所将继续开展工作组启动的安全研究和评估，但有关在公共部门识别人工智能新应用以及增强英国人工智能能力的政策职责将保留在科学与创新部内。

持续的使命与合作

人工智能安全研究所的主要目标将围绕缓解人工智能快速发展带来的不可预见后果展开，这与政府防止因人工智能进步导致意外中断的战略相一致。首相里希·苏纳克（Rishi Sunak）肯定了该研究所作为全球人工智能安全核心的作用，并强调它将领导关键研究，以评估这一快速演变技术的潜力与危害。

在一份补充声明中，科技大臣米歇尔·多兰（Michelle Donelan）表示，她相信人工智能安全研究所能够设定国际基准，为全球政策制定者提供管理尖端人工智能能力相关风险的重要指导。该研究所的合作努力将扩展到各个部门，包括科学与创新部新设立的人工智能风险中央职能机构，促进将来自人工智能发展和安全前沿的最新见解在整个政府范围内传播。

运营目标与国际认可

官方公告确认，人工智能安全研究所将仔细审查人工智能的新进展，涵盖发布前和发布后阶段，重点解决人工智能模型中固有的潜在风险。这种全面的方法包括评估各种风险，从偏见和虚假信息之类的社会挑战，到更极端但可能性较小的情景，如人类完全失去对人工智能的控制。

此外，该研究所将与艾伦·图灵研究所（Alan Turing Institute，即国家数据科学与人工智能中心）建立紧密联系，以追求有效的人工智能安全策略和实践。该研究所的成立得到了全球 largely 积极的反响，包括美国、加拿大、新加坡和日本等领先国家的认可。德国政府也表达了潜在合作的兴趣，显示出探索该领域合作机会的意愿。

国际合作与未来前景

目前，英国已与美国人工智能安全研究所和新加坡政府巩固了伙伴关系，特别关注在人工智能安全测试方面的合作努力。政府采取的主动姿态为强有力的国际合作奠定了基础，预计这将显著推动全球人工智能安全标准和实践的进步。

新成立的人工智能安全研究所标志着政府在人工智能风险评估和管理方法上的转变。该倡议最初被称为“人工智能基础模型工作组”，成立于四月，专门负责组建G7政府中首个专门评估前沿人工智能模型风险的团队。九月随后的更名以及工作组首份进展报告的发布，反映了其职责重要性和范围的日益增长。

政府委托伊恩·霍加斯（Ian Hogarth）领导人工智能安全研究所，他于六月接任工作组主席。目前正计划启动招聘程序，任命首席执行官，以巩固其组建一支专业且经验丰富的团队来领导其关键使命的承诺。

随着政府为期两天的全球人工智能安全峰会闭幕，人工智能安全研究所的成立成为英国有效管理和驾驭人工智能技术快速发展所带来的风险努力中的一个重要里程碑。该研究所专注于合作努力和国际伙伴关系，有望成为全球追求人工智能安全的基石，在这一快速演变的技术领域中为全面的风险评估和管理树立高标准。