英国将其人工智能安全研究所迁至旧金山

英国政府宣布计划今年夏天在美国开设其人工智能安全研究所的首个海外办事处。. 

另请阅读： 英国和美国人工智能安全协议在技术演进中的作用

AI 。英国科技大臣米歇尔·多兰周一发表声明称，新的美国办事处将设在旧金山。旧金山聚集了一些最大的人工智能公司，包括OpenAI、Anthropic和Inflection 

英国寻求加强与美国在人工智能安全领域的合作

这家位于美国的办事处计划在今年晚些时候开始运营，届时将招聘一支由研究主任领导的技术团队。该研究所位于伦敦的总部目前拥有超过30名技术人员。.

技术部长表示，该研究所的扩建代表了英国在人工智能领域的领导地位，并将与美国政府建立密切合作关系。. 

这是英国从全球视角研究人工智能的风险和潜力的关键时刻，加强了我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平了道路，因为我们将继续在人工智能安全方面引领世界。.

英国科学与技术大臣米歇尔·多内兰。.

多内兰表示，该研究所已经“不断发展壮大”。

英国政府于 2023 年 11 月成立了人工智能安全研究所。该研究所表示，其目标是“最大限度地减少人工智能快速和意外发展给英国和人类带来的意外”。 

另请阅读： 英国政府宣布成立人工智能安全研究所

该研究所主要致力于从国家安全的角度评估“前沿”人工智能系统。英国政府表示，通过这一举措，将能够针对在其管辖范围内部署的人工智能应用制定有效的政策和监管应对措施。.

自从我和总理共同创立人工智能安全研究所以来，该研究所在短短一年多的时间里就不断发展壮大。.

英国科学与技术大臣米歇尔·多内兰。.

该研究所公布其模型测试结果

据报道，英国人工智能安全研究所是首个公布其人工智能模型安全测试结果的政府支持机构。该研究所测试了五个公开可用的大型语言模型，但并未透露具体名称。. 

人工智能安全仍是一个非常年轻且新兴的领域。[…] 我们的目标是继续推进该领域的发展，开发最先进的评估方法，重点关注与国家安全相关的风险。.

伊恩·霍加斯，英国人工智能安全研究所主席。.

报告称，多个模型通过了其网络安全挑战。然而，所有模型都极易受到基本的“越狱”攻击。即使没有故意绕过安全措施，一些模型也产生了有害结果。.

伊比亚姆·瓦亚斯 (Ibiam Wayas) 的Cryptopolitan 报道