微软开放人工智能行为准则草案，押注人类控制能卖出模型

微软人工智能（MAI）于周一发布了 人文主义人工智能行为准则 的初稿，并邀请公众在六周内提出反馈意见，强调在评估MAI系统时，人类监督和可执行限制优先。根据 路透社，该模型旨在使人类能够有效监督MAI系统。

该论文旨在指导未来的训练和模型行为，但也是一项商业战略。随着企业在人工智能技术上的支出增加，并对可靠性、成本和风险更加关注，微软强调可预测性和克制力是付费的关键因素。

草案告诉模型该做什么

草案最重要的目标非常简单：确保人类仍然掌握控制权。据微软称，模型应更像工具而不是人，在人类监督下行动。

该代码还在模型中确立了绝对约束，无论用户或操作者的意图如何，都不得违反这些约束。约束包括以下要点：使用武器和造成大规模伤害、参与网络进攻行动、失去人类控制、大规模恶意操纵以及儿童安全问题。

三级指挥链结构如下：行为准则优先级最高，其次是运营商政策，最后是用户偏好。绝对约束和人类控制请求必须优先，不得忽视。

微软表示，该草案目前未用于模型训练。计划于今年晚些时候发布的新版本预计将促进2027年及以后的MAI开发。

为什么信任正成为产品特性

草案代码的发布时间与全球人工智能支出增加的时间相吻合。Gartner预测，人工智能模型和平台支出到2026年将达到643亿美元，比2025年增长63.4%，其中生成式人工智能模型支出增长117%。据Gartner称，买家在选择供应商时越来越考虑成本、延迟、性能和可靠性。

因此，治理变得具有商业吸引力，但可能使大公司受益。国际货币基金组织（IMF）的一份报告明确指出，计算和数据方面的规模效益可能导致赢家通吃的局面。报告还强调，监管的复杂性可能与集中度的增加并存，因为它有助于企业吸收合规成本。

据Gartner称，与人工智能相关的治理支出到2026年将达到4.92亿美元，并在2030年突破10亿美元大关。

拥挤的人工智能规则书领域

微软的框架出现在一个已经支离破碎的治理格局中。通用人工智能行为准则已于2025年7月由欧盟（EU）最终确定，允许组织自我检查其是否符合《人工智能法案》的义务。其主要利益相关者包括微软、OpenAI、Anthropic和Google。与欧盟的发布不同，微软的代码是公司为其自身MAI项目开发的行为框架，而不是监管机构开发的合规工具。

2026年全球负责任人工智能指数说明了实施情况的不均衡性。135个国家和地区的全球平均得分约为35分。实际实施证据存在于55%的案例中，而在全球南方国家这一数字降至45%。

这种分歧也是地缘政治性的。波士顿咨询公司（BCG）表示，美国和中国的AI战略正在产生越来越不兼容的技术栈，迫使公司考虑所选技术栈的运行环境及其面临的地缘政治风险。《Cryptopolitan》也报道，华盛顿和北京正在初步准备特朗普第二任期首次仅涉及AI安全的会谈。

在此背景下，微软的规则书可能被合作伙伴用作参考，或者仅仅是添加到当前混乱的全球系统中的另一个补充。

微软希望公众做什么

微软规定反馈期为六周。这意味着主要起草团队将在该时间后分析收到的意见，公布所学到的内容和引入的变更，并在今年晚些时候发布修订版。

公司要求的是如何使“人类繁荣”的定义更精确，哪些语言具有无法评估的模糊含义，以及在能力不断发展的同时如何保持安全限制。然而，微软不保证每一条建议都会被采纳。