英国政府宣布成立人工智能安全研究所

英国政府宣布成立人工智能安全研究所，该研究所将接管前沿人工智能工作组的关键职能，而前沿人工智能工作组仍将隶属于科学、创新和技术部（DSIT）。人工智能安全研究所将继续开展工作组发起的安全研究和评估工作，但与公共部门人工智能新应用的dent以及提升英国人工智能能力相关的政策制定职责仍将由DSIT负责。.

持续的使命与合作

人工智能安全研究所的主要目标是减轻人工智能快速发展带来的不可预见的后果，这与政府防止人工智能进步引发意外干扰的战略相一致。首相里希·苏纳克肯定了该研究所作为全球人工智能安全中心的作用，并强调了它将开展的关键研究，以评估这项快速发展技术的潜力和风险。.

科技部长米歇尔·多内兰在一份补充声明中表示，她对人工智能安全研究所的能力充满信心，相信该研究所能够树立国际标杆，为全球政策制定者提供管理尖端人工智能技术相关风险的重要指导。该研究所的合作范围将扩展到各个领域，包括最近在科技部下属的中央人工智能风险职能部门，从而促进人工智能开发和安全领域最新见解在政府各部门的传播。.

运营目标和国际认可

官方公告确认，人工智能安全研究所将对人工智能领域的创新技术进行严密审查，包括发布前后的各个阶段，重点关注人工智能模型中固有的潜在风险。这种全面的方法涵盖了对各种风险的评估，从偏见和虚假信息等社会挑战，到人类完全失去对人工智能控制等更为极端但可能性极低的场景。.

此外，该研究所将与国家数据科学与人工智能中心——艾伦·图灵研究所建立紧密联系，共同探索有效的人工智能安全策略和实践。该研究所的成立在全球范围内获得了普遍好评，包括美国、加拿大、新加坡和日本等主要国家都给予了支持。德国政府也表达了对潜在合作的兴趣，表明其渴望探索该领域的合作机会。.

国际合作与未来展望

英国已与美国人工智能安全研究所和新加坡政府建立了稳固的合作伙伴关系，尤其侧重于人工智能安全测试方面的合作。英国政府积极主动的做法为强有力的国际合作奠定了基础，预计这将极大地促进全球人工智能安全标准和实践的进步。.

新成立的人工智能安全研究所标志着政府在人工智能风险评估和管理方面采取的方法发生了转变。该机构最初名为人工智能基础模型工作组，于今年4月成立，其具体任务是组建七国集团（G7）政府内部首个专门负责评估前沿人工智能模型相关风险的团队。9月，该机构更名为人工智能安全研究所，并发布了首份进展报告，这反映出其职责的重要性和范围日益扩大。.

政府已委托伊恩·霍加斯领导人工智能安全研究所，霍加斯于今年6月就任该工作组主席。该研究所正计划启动招聘活动，任命首席执行官，以巩固其组建一支精干且经验丰富的团队来领导其关键使命的决心。.

随着英国政府为期两天的全球人工智能安全峰会圆满落幕，人工智能安全研究所的成立标志着英国在有效管理和应对人工智能技术快速发展带来的风险方面迈出了重要一步。该研究所高度重视协作和国际伙伴关系，有望成为全球人工智能安全领域的基石，为在这个快速发展的技术环境中进行全面的风险评估和管理树立高标准。.