-
穆斯塔法·苏莱曼表示，如果人工智能的发展存在失控风险，微软将停止相关研发。
-
在微软与OpenAI于10月达成新协议之前，其开发通用人工智能（AGI）的计划曾受阻。
-
苏莱曼证实，微软目前正在研发可能超越人类能力的超级智能。
微软消费者人工智能负责人 Mustafa Suleyman 表示，如果先进人工智能威胁到人类安全，他将立即停止开发。
在彭博社的 The Mishal Husain Show 节目中，Mustafa 发誓微软的重点是构建与人类利益一致超级智能，而不是不惜一切代价追求原始力量。
“我们不会继续开发一个有可能脱离我们控制的系统，”Mustafa 在采访中说。他补充说，这一立场不应具有争议性，称这是一个显而易见的立场，尽管他认为这在人工智能行业中仍然罕见。
微软重新获得构建先进人工智能系统的自由
Mustafa 于去年初加入微软，此前该公司收购了其初创公司 Inflection AI 背后的知识产权和大部分团队，因为微软放弃了 OpenAI 面向消费者的 AI 工具。
收购后，Mustafa 负责构建能够直接与市场上最强大的模型竞争的产品。
在很长一段时间里，他的工作受到限制。与微软和 OpenAI 合作相关的合同条款阻止了公司开发通用人工智能，定义为能在人类水平上执行任务的系统，以及超越人类能力的超级智能。
Mustafa 表示，微软放弃了这些权利，以换取访问 OpenAI 最新模型的权限。该安排还涉及微软在几年内为 OpenAI 建设和配备数据中心。
这种结构在 10 月发生了变化。一项新协议重塑了双方关系，并将开发权归还给微软。
Mustafa 表示，OpenAI 现在与其他合作伙伴（包括软银和甲骨文）有基础设施协议，以建立比微软愿意承诺的更多的数据中心。“他们现在与软银和许多其他公司——甲骨文——达成协议，建立比微软想为他们建立的更多的数据中心，”他说。“因此，作为回报，我们便有权去开发我们自己的 AI。”
他说，微软在过去 18 个月里一直是一家通用人工智能开发商，但现在正转向可能在所有任务中超越人类表现的工作。
“在过去 18 个月里，我们仍然是一家通用人工智能开发公司，但现在我们可以研究一些有可能在所有任务中超越人类表现的技术和方法，”Mustafa 表示。“所以，这对我们来说是一个转变。”
Suleyman 概述谨慎方法，因为工具仍未完工
上个月，Mustafa 在一篇博客文章中正式宣布了这一超级智能努力，阐述了微软的立场，即此类系统必须设计为服务于人类。其他主要参与者，包括 OpenAI 和 Anthropic PBC，经常就安全和人类利益做出类似声明。
“每个人必须决定他们坚持什么以及如何运作，我不想评判他们目前的运作方式，”他说。“我没有看到大规模大规模伤害的证据。”
尽管长期关注超级智能，但 Mustafa 表示，目前的辩论仍然是学术性的。
消费者期望能够处理预订机票或组织购物计划等任务的助手。高管期望提高生产力。目前，这两组人都尚未完全实现这一目标。
Mustafa 指出微软的 Copilot 消费者助手作为证明。他说，其类似代理的功能仍在测试中，并不总是按预期表现。
“我们仍在对其进行实验，”Mustafa 说。“但当它工作时，它是你见过的最神奇的事情。”
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
Jai Hamid
Jai Hamid在过去6年中一直报道加密货币、股票市场、科技、全球经济以及影响市场的地缘政治事件。她曾在专注于区块链的出版物工作，包括AMB Crypto、Coin Edition和CryptoTale，从事市场分析、大型公司、监管和宏观经济趋势的报道。她毕业于伦敦新闻学院，并三次在非洲顶级电视网络之一分享加密货币市场见解。
