谷歌前首席执行官埃里克·施密特警告称，人工智能开发不应重蹈“曼哈顿计划”的覆辙

谷歌前首席执行官埃里克·施密特在周三发表的一份政策文件中警告说，美国不应该推动曼哈顿式的人工智能系统开发项目。. 

题为《超级智能战略》的论文指出，积极竞购超级智能人工智能系统可能会招致中国等国的报复。这种报复可能以网络攻击的形式出现，直接影响国际关系。

这份政策文件由Scale AI首席执行官亚历山大·王和人工智能安全中心主任丹·亨德里克斯共同撰写。两位作者写道：“（通用人工智能的）曼哈顿计划假定竞争对手会默许长期存在的不平衡或种族灭绝，而不是采取行动阻止它。” 

作者还补充道：“一开始就力推超级武器和全球控制，可能会引发敌对的反制措施，加剧紧张局势，从而破坏该战略声称要维护的稳定。”

这篇论文发表于美国国会委员会提出一项“曼哈顿计划式”的通用人工智能研发资助方案几个月之后。该项目以美国在20世纪40年代研发原子弹的努力为蓝本。. 

美国能源部长克里斯·赖特提 到 美国即将启动一项人工智能领域的“新曼哈顿计划”。他说：“在dent ，美国将在全球人工智能竞赛中胜出，但首先，我们必须释放能源优势，重振美国的竞争力。”

一些美国行业领袖和政策制定者认为，推行政府支持的人工智能发展计划是与中国等国家竞争的最佳途径。然而，《超级智能战略》文件对这一观点提出了质疑。. 

埃里克·施密特称之为相互确保摧毁 

作者认为，就像世界强国避免垄断核武器一样（因为垄断核武器可能会引发以预防性破坏形式出现的报复），美国也应该谨慎对待试图利用强大的人工智能系统来占据主导地位。.

埃里克·施密特提出了一个名为MAIM（相互确保人工智能故障）的概念。它指的是其他国家的政府主动采取措施，阻止基于人工智能的威胁，而不是坐等通用人工智能（AGI）被用于攻击本国。. 

作者认为，美国与其专注于“赢得超级智能竞赛”，不如发展阻止其他国家开发此类系统的方法。他们还补充说，美国应该“扩大其网络攻击手段，以阻止具有威胁性的人工智能项目”。

然而，特朗普政府似乎决心推动美国在人工智能竞赛中领先。但施密特认为，鉴于全世界都在关注美国将人工智能推向极限，采取防御性策略才是明智之举。.