英国在 AI 安全峰会上呼吁就 AI 的“灾难性伤害”标签达成全球共识

作为一项开创性的举措，英国首相里希·苏纳克正在推动一项倡议，旨在即将由英国主办的 AI 安全峰会上将人工智能分类为能够造成“灾难性伤害”。该峰会计划下个月在布莱切利公园举行，旨在就快速 advancing 的 AI 技术带来的风险建立统一的全球立场。向与会者分发并由彭博社获得的草案公报概述了关于 AI 对网络安全和生物技术影响的具体担忧。随着国际社会努力应对 AI 带来的变革性机遇，苏纳克希望将英国定位为塑造监管方法和建立行业“护栏”的领导者。

担忧与保障措施

英国推动的核心在于承认来自最危险的 AI 模型能力的“重大甚至灾难性伤害”的潜力。10 月 16 日签署的草案公报强调了在通用 AI 和狭义 AI 的具体安全风险方面采取联合国际立场的必要性。代表 28 个国家以及多样化利益相关者的官员们，定于 10 月 25 日前审议并最终确定公报。

该文件突出了 AI 的双重性质，承认其变革性机遇，特别是在公共服务领域，如健康、教育、科学和清洁能源。一位知情人士指出，这一方面将成为峰会期间的重点，揭示 AI 对社会进步的积极潜力。

然而，草案强调，风险，特别是在 AI 发展的“前沿”领域，需要明确的评估指标、安全测试工具和公共部门能力的增强。承认需要平衡的方法，峰会旨在解决 AI 的承诺和挑战，确保 advancements 被负责任地利用以造福人类。

预计全球领导人将呼应增加 AI 开发公司透明度的呼吁。草案提议建立明确的评估指标、安全测试工具，以及开发相关的公共部门能力和科学研究。文件强调，安全风险不仅出现在通用 AI 中，也出现在可能表现出危险能力的特定狭义 AI 中。

AI 安全措施中的全球协调与责任

虽然英国处于领先地位，但草案和其他 circulated 文件显示，欧盟委员会正在倡导就前沿 AI 安全进行国际合作。欧洲联盟寻求与其自身的 AI 立法保持一致的方法，重点关注网络攻击中的潜在滥用以及先进系统失控的风险。

文件强调了开发强大且潜在危险的 AI 能力的开发人员的责任。重点强调确保这些能力的安全，敦促“相关行为者”提供与上下文相关的透明度和问责制，以衡量、监控和减轻潜在危险。英国计划通过每六个月举行一次后续会议来保持势头，专门用于跟踪管理 AI 机遇和 相关风险的进展。

草案公报强调，AI 必须以优先考虑“共同利益”并符合以人为本、安全、可信和负责任原则的方式设计、开发、部署和使用。随着国际社会在布莱切利公园汇聚，世界正在观察是否会出现关于 AI 安全的统一立场，从而为安全且负责任的 AI 未来铺平道路。