前谷歌CEO施密特呼吁在某些能力水平下“拔掉”AI系统

前谷歌CEO埃里克·施密特（Eric Schmidt）警告人工智能开发者要控制其发展上限。他还强调了美国在与中国进行的 ongoing 人工智能（AI）竞赛中获胜的重要性。

在ABC新闻的 乔治·斯蒂芬诺普洛斯（George Stephanopoulos）主持的“This Week”节目中 周日，施密特警告说，AI系统有可能独立运作甚至自我改进。 

“我们很快就能拥有自主运行的计算机，决定它们想做什么，”施密特说。

施密特：AI不应不受监管

施密特重申了先进AI不受监管发展的风险，指出具备自我改进能力的系统构成了重大危险。 

“当系统能够自我改进时，我们需要认真考虑拔掉它的电源，”这位前谷歌CEO说。

当斯蒂芬诺普洛斯问施密特，这样的AI系统是否会反击试图关闭它们的努力时，施密特回答说：“嗯，理论上，我们最好让某人把手放在插头上——打个比方。”

虽然对 AI生存风险的 担忧日益增加，但一些专家认为这种恐惧被夸大了。伦敦帝国理工学院研究副校长尼克·詹宁斯教授（Nick Jennings）是那些驳斥末日预测的人之一。 

詹宁斯 认为 认为，虽然AI可以在特定任务中表现出色，但创建在多个领域具有类似人类智能的系统仍然远远超出科学家目前的能力。

“开发在单一任务中表现出色的AI是可行的，”詹宁斯解释说。“但构建在多个学科中反映人类智能的通用AI并不是我们在不久的将来可以期望的。”

关于AI威胁的分歧意见

与此同时，领先的AI研究人员中仍然存在担忧，他们警告说，定义不当的目标和 inadequate 的安全措施会带来危险。加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）和博士后学者迈克尔·科恩（Michael Cohen）认为，如果不受监管，强大的AI系统最终可能对人类构成生存威胁。

在 在《科学》杂志上发表的 见解论文中，罗素和科恩呼吁加强对AI开发的监管。他们强调科技公司需要在将AI系统推向市场之前证明其安全性。他们认为，如果没有明确的目标和强大的保障措施，先进的AI系统可能会违背人类利益。

“如果这些AI的目标与人类的目标发生冲突，那将是灾难性的，”罗素和科恩写道。他们认为科技公司应对其系统的安全性负责，并确定AI永远不应跨越的关键“红线”。

关于AI安全的日益激烈的辩论

AI发展的快速步伐已经带来了挑战，包括虚假信息的传播、社会极化和算法偏见。对安全和监管的担忧尚未跟上技术的发展步伐。

施密特的言论反映了行业领袖解决这些挑战的日益紧迫感。像 埃隆·马斯克 这样的专家长期以来一直呼吁采取预防性监管以减轻AI风险。 

马斯克曾将AI描述为“我们作为文明面临的最大风险”， 警告 当局在解决其危险方面做得很少。同样，物理学家斯蒂芬·霍金（Stephen Hawking）担心，实现奇点——机器超越人类智能的点——可能会让人类无法控制先进的AI系统。 

在他的采访中，霍金认为，如果没有监管，AI可能会成为“对人类来说最好或最坏的事情”。

中美AI竞争加剧

施密特指出，虽然美国此前在 中国的AI发展方面领先，但过去六个月差距已显著缩小。“中国在某种程度上已经迎头赶上，令人瞩目，”他说，将当前局势描述为两个超级大国之间的高赌注竞赛。

“也许在接下来的一两年内，系统可以开始进行自己的研究。它们被称为AI科学家，而不是人类科学家。所以你会从拥有1000名人类科学家变成一百万名AI科学家。我认为这增加了斜率，当你以这种速度移动时，你的竞争对手很难赶上，,” 他评论道。

施密特相信，即将上任的 特朗普政府 将优先考虑美国在AI方面的竞争力，他认为这是一个积极的步骤。“只要人类价值观得到保留，”他说，“我们就没问题。”