联合国人权事务高级专员图尔克警告先进人工智能可能威胁人类，呼吁划定“红线”

联合国（UN）人权事务高级专员沃尔克·图尔克（Volker Türk）今天（9月7日）在日内瓦的人权理事会上公开警告，人工智能能力正在发展到对人类构成生存威胁的程度。

图尔克敦促各国政府迅速采取行动建立对冲措施，并遏制处于自主系统技术竞赛前沿的人工智能实验室，防止其在不断升级的违规和安全事故中失控。

联合国行政长官面临的最大难题是，人工智能技术的增长速度超过了目前治理系统所能跟踪的速度。这种不受限制的增长已将威胁从错误信息和失业提升到安全、问责制以及高度自主系统缺乏监管等生存领域。 

联合国人权事务高级专员呼吁采取紧急国际行动 

图尔克引用了一个即将关闭的窗口期，即人工智能的能力仍可被制约，这是他呼吁国际社会协调行动的基础。他还 指出 该领域发展的速度和方向不成比例地掌握在 一小撮科技高管和公司手中. 

图尔克 提出了解决方案 以应对他指出的红旗警告。他的替代方案是，这些领先人工智能公司所在的国家以及控制关键供应链的国家应挺身而出，划定“红线”，明确他们愿意允许技术发展到什么程度。

联合国人权事务高级专员正在重新审视国际机构今年7月在瑞士同一城市举行的首届全球人工智能治理对话中处理过的一个话题。 

图尔克在启动对话的国际电信联盟（ITU）“人工智能促进美好世界”峰会上表示：“我们不认为药品、汽车或飞机的安全标准是进步的障碍，”据 联合国视频显示，“它们是人们最初信任这些技术的原因。”他补充说，人类监督“不能仅仅是一个橡皮图章”。

推动 峰会讨论 的部分证据由联合国授权的全球人工智能科学小组的索尼娅·利文斯通（Sonia Livingstone）提出。截至当时，在涵盖11个全球南方国家的一项研究中，每个教室至少有一名儿童表示他们曾是性暗示人工智能深度伪造的受害者。 

联合国妇女署署长西玛·巴乌斯（Sima Bahous）也 指出了其中的性别偏见 。据她介绍，约88%的顶级人工智能研究人员。她还报告称，在她机构调查的女性活动家和记者中，至少有四分之一的人遭受过人工智能辅助的网络虐待。

人工智能实验室和立法者已意识到这些问题

联合国并非今年夏天唯一发出警报的机构。美国参议员伯尼·桑德斯（Bernie Sanders）呼吁立即暂停先进人工智能工作并永久禁止超级人工智能，而英国跨党派议员团体在描述了一系列失控的人工智能事件后，推动实施法律要求的人工智能“紧急停止开关”。 

这些焦虑紧随 OpenAI 的声明之后，该声明与其 GPT-6 Astra 模型相关，称其技术已达到通用人工智能水平，以及 Anthropic 承认其自身模型与人类价值观“并非完全一致”。

部分压力来自行业内部。在 Axios 报道的一篇6月文章中，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）认为，政府应拥有阻止或逆转危险人工智能部署的法律权力，并且前沿模型应像汽车、飞机或新药一样接受强制测试。 

在他的理事会更新中，图尔克将该主题扩展到战场，支持禁止无需人类参与即可杀人的武器的呼声。