诺贝尔奖得主与政治家、科学家联合发出紧急呼吁，限制危险的 AI 使用

推动各国政府就具有约束力的国际限制以遏制 AI 技术滥用的运动已升级至联合国层面，因为超过 200 位杰出的政治家、科学家和思想领袖，包括 10 位诺贝尔奖得主，已就该技术风险发出警告。

该声明于周一在联合国大会高级别周开幕时发布，被称为“全球 AI 红线呼吁”。它认为 AI 的“当前轨迹带来了前所未有的危险”，并要求各国在 2026 年底前达成一项关于清晰、可验证限制的国际协议。

诺贝尔奖得主在联合国发出呼吁

诺贝尔和平奖得主兼记者 Maria Ressa 揭露了这一呼吁，她在开幕致辞中敦促各国政府“防止普遍不可接受的风险”，并定义 AI 永远不应被允许做的事情。

声明的签署者包括化学、经济学、和平和物理学领域的诺贝尔奖得主，以及 Stephen Fry 和 Yuval Noah Harari 等著名作家。前爱尔兰总统 Mary Robinson 和前哥伦比亚总统 Juan Manuel Santos（他也是诺贝尔和平奖得主）也签了名。

Geoffrey Hinton 和 Yoshua Bengio，俗称“AI 教父”且图灵奖得主（被广泛认为是计算机科学界的诺贝尔奖），也在声明上签了名。

“这是一个转折点，”Harari 说。“人类必须在技术重塑社会超出我们的理解并摧毁我们人性基础之前，就 AI 的清晰红线达成一致。”

过去关于 AI 发出警告的努力通常侧重于公司和政府的自愿承诺。2023 年 3 月，包括埃隆·马斯克在内的 1000 多名科技领袖呼吁暂停开发强大的 AI 系统。几个月后，OpenAI 的 Sam Altman 和 Google DeepMind 的 Demis Hassabis 等 AI 高管签署了一份简短声明，将 AI 的存在性风险与核战争和流行病相提并论。

AI 引发对存在性和社会性风险的恐惧

就在上周，AI 被牵涉到从一名青少年自杀到被用于操纵公众辩论的各种案件中。

呼吁书的签署者 认为，这些即时风险很快可能被更大的威胁所掩盖。评论员警告称，如果不受限制，先进的 AI 系统可能导致大规模失业、 engineered 流行病或系统性侵犯人权。

禁运清单中的一些项目包括禁止致命自主武器、禁止自我复制的 AI 系统，并确保 AI 永不部署于核战争。

“防止 AI 对人类造成严重且可能不可逆转的伤害符合我们至关重要的共同利益，我们应该据此采取行动。”前禁止化学武器组织总干事 Ahmet Üzümcü 说，该组织在他的领导下赢得了 2013 年诺贝尔和平奖。

包括英国智库 Demos 和北京人工智能安全与治理研究所在内的 60 多个民间社会组织签署了这封信。该努力由三个非营利组织协调：加州大学伯克利分校的人类兼容人工智能中心、The Future Society 和法国人工智能安全中心。

尽管像 OpenAI 和 Anthropic 这样的公司最近做出了安全承诺，同意在发布前接受政府测试，但研究表明，企业仅履行了约一半的承诺。

“我们耗不起等待的时间，”Ressa 说。“我们必须在我们无法控制 AI 进步之前采取行动。”