微软人工智能负责人承诺，如果该技术构成生存风险，将停止研发。

微软消费者人工智能负责人穆斯塔法·苏莱曼表示，如果先进的人工智能威胁到人类安全，他将立即停止相关研发工作。

穆斯塔法在彭博社的《米沙尔·侯赛因秀》节目中表示，微软的重点是打造符合人类利益的超级智能，而不是不惜一切代价追求原始力量。

“我们不会继续开发一个有可能失控的系统，”穆斯塔法在采访中说道。他补充说，这种立场不应该引起争议，称其为显而易见的立场，尽管他认为这种立场在人工智能行业仍然很少见。

微软重新获得构建先进人工智能系统的自由

去年年初，在微软收购了 Mustafa 的创业公司 Inflection AI 的知识产权和大部分团队后，Mustafa 加入了微软。此前，他曾为面向消费者的 AI 工具公司 OpenAI 工作。

收购完成后，穆斯塔法的任务是打造能够与市场上最tron型号直接竞争的产品。

在很长一段时间里，他的工作都受到限制。微软与OpenAI合作的trac条款限制了该公司开发通用人工智能（ defi为能够达到人类水平的系统）以及超级智能（超越人类能力的系统）。

穆斯塔法表示，微软放弃了这些权利，以换取使用OpenAI最新模型的权限。该协议还包括微软在数年内为OpenAI建设和配备数据中心。

这种结构在10月份发生了变化。一项新的协议重塑了双方的关系，并将开发权归还给了微软。

穆斯塔法表示，OpenAI目前已与其他合作伙伴（包括软银和甲骨文）达成基础设施协议，将建设比微软愿意投入的更多的数据中心。“他们现在与软银以及其他许多公司——比如甲骨文——达成了协议，将建设比微软愿意为他们建设的更多的数据中心，”他说道。“因此，作为回报，我们也有权开发我们自己的人工智能。”

他表示，过去 18 个月以来，微软一直是一家通用人工智能开发商，但现在正转向那些在某些任务上可能超越人类表现的工作。

“过去18个月里，我们一直是一家通用人工智能开发公司，但现在我们可以致力于一些技术和方法的研究，这些技术和方法有可能在所有任务上超越人类的表现，”穆斯塔法 说。“因此，这对我们来说是一个转变。”

苏莱曼概述了谨慎的做法，因为工具尚未完成。

上个月，穆斯塔法在一篇博客文章中正式宣布了这项超级智能计划，并阐述了微软的立场，即此类系统必须以服务人类为目标。其他主要参与者，包括 OpenAI 和 Anthropic PBC，也经常就安全性和造福人类做出类似的声明。

他说：“每个人都必须决定自己的立场和行事方式，我不想评判他们现在的行事方式。我没有看到任何大规模群体伤害的证据。”

尽管人们长期以来一直关注超级智能，但穆斯塔法表示，目前的争论仍然停留在学术层面。

消费者希望助手能够处理诸如预订机票或制定购物计划之类的任务。高管们则希望提高工作效率。但双方都尚未完全满足这些需求。

穆斯塔法以微软的Copilot消费者助手为例。他说，该助手的代理功能仍在测试中，并非总能按预期运行。

“我们还在试验中，”穆斯塔法说。“但一旦成功，那将是你所见过的最神奇的事情。”