谷歌前首席执行官施密特敦促在某些功能下“关闭”人工智能系统

谷歌前首席执行官埃里克·施密特警告人工智能开发者要控制开发上限。他还强调了美国在与中国的人工智能竞赛中获胜的重要性。.

在ABC新闻的《 本周》节目中接受乔治·斯蒂芬诺普洛斯 运行dent，甚至自我改进。 

“我们很快就能让计算机自主运行，决定它们想做什么。”

施密特：人工智能不应不受监管

施密特重申了不受控制的高级人工智能发展的风险，并指出能够自我改进的系统构成了重大危险。. 

“当系统能够自我改进时，我们需要认真考虑是否要拔掉它的电源，”这位前谷歌首席执行官说道。

当斯特凡诺普洛斯问施密特，这样的人工智能系统是否可以对抗关闭它们的努力时，施密特回答说：“嗯，理论上，我们最好有人能按住插头——这是比喻的说法。”

尽管人们对 人工智能可能带来的生存风险 日益担忧，但一些专家认为这种担忧被夸大了。伦敦帝国理工学院负责研究的副教务长尼克·詹宁斯教授就是驳斥末日预言的专家之一。 

詹宁斯 认为 ，虽然人工智能可以在特定任务中表现出色，但要创建在各个领域都具有类似人类智能的系统，仍然远远超出了科学家目前的能力范围。

“开发能够出色完成单一任务的人工智能是可以实现的。但是，在不久的将来，我们还无法期待构建能够在多个领域都模仿人类智能的通用人工智能。”

对人工智能威胁的不同看法

与此同时，人工智能领域的顶尖研究人员仍然担忧，他们警告称，目标定义不 defi和安全措施不足会带来危险。加州大学伯克利分校教授斯图尔特·罗素和博士后研究员迈克尔·科恩认为，如果不加以控制，强大的人工智能系统最终可能会对人类构成生存威胁。.

在发表于《科学》杂志的一篇 见解文章 ，罗素和科恩呼吁对人工智能的开发进行更严格的监管。他们强调，科技公司必须在将人工智能系统推向市场之前证明其安全性。他们认为，如果没有明确的目标和强有力的保障措施，先进的人工智能系统可能会损害人类利益。

“如果这些人工智能的目标与人类的目标发生冲突，那可能会酿成灾难，”罗素和科恩写道。他们认为，科技公司应该负责确保其系统的安全，并明确dent绝不能逾越的关键“红线”。

关于人工智能安全性的争论日益激烈

人工智能的飞速发展已经带来了诸多挑战，包括虚假信息的传播、社会两极分化和算法偏见。人们对安全性和监管的担忧尚未跟上技术发展的步伐。.

施密特的言论反映出行业领袖们日益迫切地希望应对这些挑战。像 埃隆·马斯克 长期以来一直呼吁制定先发制人的监管措施来降低人工智能的风险。 

马斯克曾将人工智能描述为“我们文明面临的最大风险”， 警告说 ，当局在应对人工智能的危险方面做得很少。同样，物理学家斯蒂芬·霍金也担心，当机器智能超越人类智能达到奇点时，人类将无法控制先进的人工智能系统。 

霍金在采访中表示，如果没有监管，人工智能可能会成为“人类遇到的最好的事情，也可能成为最糟糕的事情”。

中美人工智能竞争加剧

领先于 在人工智能发展方面，但过去六个月来，这一差距已显著缩小。“中国以惊人的速度迎头赶上，”他说道，并将当前局势描述为两大超级大国之间的一场高风险竞赛。

“或许在未来一两年内，这些系统就能开始自主研究。它们被称为人工智能科学家，与人类科学家相对。这样一来，人类科学家的数量就会从1000人增加到100万人工智能科学家。我认为这会加快发展速度，而当你以这样的速度前进时，你的竞争对手就很难赶上，”他说道。

施密特认为，即将上任的 特朗普政府 会优先考虑美国在人工智能领域的竞争力，他认为这是一个积极的举措。“只要人类价值观得到维护，”他说，“我们就应该没问题。”