微软人工智能负责人反对创造看似有意识的机器,称只有生物才能真正体验到意识。.
穆斯塔法·苏莱曼本周在休斯顿举行的非洲科技大会上接受CNBC采访时表示,研究人员应该放弃构建具有意识的人工智能系统的研究工作。他称这种做法完全错误。.
苏莱曼在会议上发表主题演讲时说:“我不认为这是人们应该做的工作。如果你问错了问题,最终只会得到错误的答案。我认为这完全是个错误的问题。”
作为微软人工智能领域的领军人物,苏莱曼一直以来都对那些可能使人误以为人工智能会遭受痛苦或产生情感的人工智能服务持批评态度。去年,他出版了《即将到来的浪潮》一书,探讨了人工智能及类似新兴技术所带来的风险。今年8月,他又发表了一篇文章,主张人工智能的开发应以造福人类为目标,而非模仿人类。.
人工智能伴侣市场不断增长引发争议
这场对话发生在科技公司竞相开发人工智能助手的背景下,其中包括Meta和埃隆·马斯克的xAI等公司的产品。随着以萨姆·奥特曼的OpenAI为首的生成式人工智能领域致力于开发通用人工智能(即能够达到人类认知水平的系统),这个问题变得日益复杂。.
奥特曼在八月份表示,“通用人工智能”这个词已经不太贴切了。他说,模型只是在快速改进,人们将越来越多地依赖它们来完成各种任务。.
对苏莱曼来说,将不断增长的人工智能能力与任何人类情感的可能性区分开来至关重要。.
“我们身体对疼痛的体验会让我们感到非常悲伤和痛苦,但人工智能在体验到‘疼痛’时并不会感到悲伤。 解释说这是一个非常非常重要的区别。它实际上只是创造了一种感知,一种关于体验、关于自身以及关于意识的表象,但这并非它实际体验到的。从技术上讲,我们可以通过观察模型的运行情况来了解这一点。”
他指出,哲学家约翰·塞尔提出的生物自然主义理论认为,意识需要活大脑的生物过程。.
苏莱曼说:“我们今天赋予人们权利的原因是,我们不想伤害他们,因为他们会遭受痛苦。他们有疼痛感知网络,并且有避免痛苦的偏好。这些模型没有这些。它只是模拟而已。”
苏莱曼承认,意识研究仍是一门发展中的科学。他没有呼吁阻止他人研究这一课题,因为他明白不同的组织有不同的目标。然而,他强调自己tron反对意识的概念。.
“他们没有意识,”他说。“所以,研究这个问题是荒谬的,因为他们没有意识,也不可能有意识。”
微软采取了与竞争对手不同的发展道路。
苏莱曼此行旨在公开探讨人工智能意识发展所带来的风险。在休斯顿之前,他上周出席了在硅谷举行的佩利国际理事会峰会。.
他在会上宣布,微软不会开发用于色情内容的聊天机器人,这与竞争对手的做法截然不同。据 Cryptopolitan,奥特曼在 10 月份透露,ChatGPT 现在允许成年用户进行色情对话,而 xAI 则提供了一个带有挑逗意味的动漫伴侣。
“你基本上可以从其他公司购买这些服务,所以我们正在决定哪些地方我们不去,”苏莱曼在 AfroTech 大会上再次说道。.
苏莱曼在AfroTech大会上表示,他选择 微软的 部分原因是其悠久的历史、稳健的运营以及广泛的技术影响力。首席执行官萨蒂亚·纳德拉亲自招募了他。
“另一点需要说明的是,微软需要在人工智能领域实现自给自足,”他说道。纳德拉在18个月前启动了一项计划,旨在确保公司能够完全利用自身数据在内部训练模型。.

