微软公布人工智能行为准则草案，押注人类控制能够提升模型销量

微软人工智能（MAI）周一发布了其《人本主义人工智能行为准则》初稿，并邀请公众就此提出为期六周的反馈意见。该准则强调了在评估人工智能系统时，人类监督和可执行的限制措施应优先考虑。据路透社报道，该模型旨在使人类能够有效地监督人工智能系统。

本文旨在指导未来的训练和模型行为，同时也可作为一项商业策略。随着企业在人工智能技术上的投入不断增加，并日益关注可靠性、成本和风险，微软强调可预测性和克制性才是值得投入的因素。.

草案指示模型做什么

该草案最重要的目标非常简单：确保人类仍然掌握控制权。微软表示，这些模型应该更像工具而非人，在人类监督下运行。.

该规范还在模型中设定了绝对约束，无论用户或操作者的意图如何，都不得违反这些约束。这些约束包括以下几点：使用武器和造成大规模伤害、参与网络攻击行动、丧失人为控制、大规模恶意操纵以及儿童安全问题。.

三级指挥链结构如下：行为准则为最高优先级，其次是操作员政策，最后是用户偏好。绝对约束和人为控制请求必须优先考虑，不容忽视。.

微软表示，目前该草案并未用于模型训练。计划于今年晚些时候发布的新版本预计将有助于推动 MAI 在 2027 年及以后的发展。.

为什么信任正在成为产品特性

该草案代码的发布时机恰逢全球人工智能支出增长之际。Gartner预测， 人工智能模型和平台的支出 将达到643亿美元，比2025年增长63.4%，其中生成式人工智能模型的支出将增长117%。Gartner指出，买家在选择供应商时，越来越重视成本、延迟、性能和可靠性。

因此，公司治理在商业上变得trac，但可能更有利于大型公司。 国际货币基金组织的一份报告 明确指出，计算和数据规模带来的优势可能导致赢家通吃的局面。该报告还强调，监管的复杂性可能与市场集中度的提高相伴而生，因为它有助于企业承担合规成本。

根据 Gartner 的数据， 与人工智能相关的治理支出 将达到 4.92 亿美元，到 2030 年将突破 10 亿美元的门槛。

人工智能规则手册种类繁多

微软的框架是在一个已经支离破碎的治理格局中推出的。 通用人工智能实践准则 ，允许各组织自行检查其是否符合《人工智能法案》的义务。该准则的主要利益相关者包括微软、OpenAI、Anthropic和谷歌。与欧盟发布的准则不同，微软的准则是公司自身为自身人工智能项目开发的行为框架，而非监管机构开发的合规工具。

全球 负责任人工智能指数 表明，人工智能的实施情况极不均衡。在135个国家和地区中，全球平均得分约为35分。实际的实施证据仅占55%，而全球南方国家的这一比例更是低至45%。

这种分歧也体现在地缘政治层面。Cryptopolitan 也报道（BCG）指出，美国和中国的人工智能战略正在催生出越来越不兼容的技术栈，迫使企业考虑所选技术栈的运行范围以及其面临的地缘政治风险。Cryptopolitan称，华盛顿和北京正在初步筹备在特朗普第二个任期内就人工智能安全问题举行首次会谈。

在这种情况下，微软的规则手册可以被合作伙伴用作参考，或者仅仅是对目前已经混乱的全球体系的又一次补充。.

微软希望公众做什么

微软明确指出， 反馈期 为六周。这意味着主要起草团队将在此期间分析收到的意见，发布一份总结报告，概述所了解到的情况和所做的修改，并在今年晚些时候发布修订版。

该公司希望了解如何使“人类繁荣”的 defi更加精确，哪些措辞含义模糊且无法评估，以及如何在能力不断发展的同时保持安全限制。然而，微软并不保证会采纳每一项建议。.