比尔·盖茨呼吁实施法律强制的人工智能安全措施，全球投资突破 1 万亿美元

比尔·盖茨警告称，不应允许人工智能企业自我监管，并敦促华盛顿制定安全法规。

微软联合创始人是在 9 月 25 日发布的 NBC 新闻采访 中提出这些观点的，两天前他在“Meet the Press”节目中播出了完整采访。

他在 高盛 预测 2026 年全球人工智能投资将超过 1 万亿美元时发出了这一警告。这意味着新的安全法规可能会对致力于实施新安全系统以执行规则的开发者、投资者和公司产生重要影响。

“没有人认为自我监管就足够了”

当主持人 Kristen Welker 询问国会是否需要采取行动时，盖茨回应道：“绝对如此”。

盖茨表示，“没有人认为自我监管就足够了。”他认为，立法者和执法机构应制定明确的法律，规定人工智能公司如何监控风险以及必须采取哪些安全措施。他将开发者的责任描述为“一点点的开销”，而不是阻碍进步的因素。

他的担忧远远超出了通常的滥用范围。据盖茨在 NBC 采访中表示，人工智能“肯定有足够的力量推动导致数十亿人死亡的事件”，尤其是当这些先进系统落入别有用心的人手中时。

行业领袖对保障措施的力度各有不同看法。Anthropic首席执行官Dario Amodei提出了“完全放缓，甚至‘暂停’”的概念，将其视为最极端的集体减速方案。OpenAI首席执行官Sam Altman也表达了类似担忧，他认为“放缓所付出的代价是值得的”，并指出以“保持竞争优势”为借口而鲁莽行事是不可接受的。

然而，Meta 首席执行官 Mark Zuckerberg 持相反意见。他在接受 NBC 新闻采访时称，“我认为我们不需要某种行业范围的协调。”他更喜欢实验室仅在感到面临安全问题风险时才放慢速度。

盖茨希望管理风险，而不是停止开发

盖茨不仅要求科技行业停止开发人工智能系统。在他 8 月发表在 盖茨笔记 上的一篇文章中，他表示人工智能“将成为有史以来最伟大的均衡器，或者是最严重的不公正来源。”

他还表示，他可能会支持一个可信的全球人工智能开发放缓计划，但他并不确信这样的计划会有效，因为继续开发既有经济原因也有政治原因。

因此，他的立场并不仅仅是停止新的发展；相反，它是为了让公司、政府和个人做好准备，以便在人工智能技术应用于医疗、法律、软件和客户服务等领域时能够适应。

一个等待规则出台的 $1 万亿美元市场

围绕安全措施的辩论正在资金涌入人工智能的同时展开，使得任何新规则的风险都更高。高盛 预计 2026 年全球人工智能投资将超过 1 万亿美元，其中美国约为 5810 亿美元，而自 2022 年以来的累计投资到年底可能接近 1.8 万亿美元。

尽管人工智能投资增长，但微软表示，并非所有人都平等地享受到了其优势和利益。微软的人工智能扩散数据 显示全球北方和全球南方之间的差距日益扩大，而 经合组织 强调人工智能能力仍局限于少数国家和公司。

这使得监管变得更加困难的平衡行为。更好的保护措施可能会降低风险，但对于小型实验室和较不富裕的国家来说，遵守这些监管的额外成本可能非常难以承受。

监管拼凑格局已经形成

越来越多的证据支持更严格监管的呼声。在图灵奖得主 Yoshua Bengio 的指导下，由 100 多名该领域专家撰写的 2026 年国际人工智能安全报告 描述了现有危险以及人工智能系统日益增强的能力所带来的潜在未来威胁。

与此同时，政府已经在围绕这些风险制定法规。据 TRM Labs 报道，随着不同国家采取不同的人工智能治理、实施和问责方法，一个新的全球人工智能监管“拼凑”格局正在形成。

欧盟在实现此类目标方面比大多数其他国家更为积极。根据 欧盟人工智能法案，通用人工智能提供商必须在文档、版权和训练数据透明度方面遵守严格义务。使用超过 10^25 FLOP 的模型被视为具有系统性风险，这需要额外的模型评估、风险管理、事故报告和网络安全性标准。

随着监管的增加，企业试图遵守这些监管所花费的金额也在上升。据 Gartner 称，到 2027 年，组织用于保障人工智能的支出将增加 68.7%，达到近 48 亿美元，预计 2028 年将接近 77 亿美元。

华盛顿似乎也在朝着更强大的监管框架迈进。据 Cryptopolitan 报道，参议院谈判代表正在研究一项两党倡议，为人工智能开发者建立“注意义务”，这可能允许政府阻止不安全模型的发布。如果获得批准，这将把盖茨敦促的保护机制从自愿义务领域转移到具有法律约束力的责任领域。