美国媒体和科技界人士呼吁停止超级人工智能的研发

美国右翼媒体人士、科学家和科技领袖组成的联盟呼吁在全球范围内禁止开发超级智能人工智能（AI），直到科学能够确保其安全可控，并获得公众的支持。.

据路透社周三报道，由生命未来研究所（FLI）协调发起的这项呼吁，是通过一份由 850 多位公众人物签署的联合声明宣布的。. 

该文件要求各国政府和人工智能公司暂停所有 超级智能工作，即那些据称超越人类认知能力的人工智能系统，直到实施公众认可的安全机制为止。

盟友齐心协力阻止超级智能人工智能的发展 

该联盟的签署者以 右翼媒体人史蒂夫·班农和格伦·贝克为首，成员还包括人工智能领域的顶尖研究人员杰弗里·辛顿和约书亚·本吉奥。其他签署者还包括维珍集团创始人理查德·布兰森、苹果公司联合创始人史蒂夫·沃兹尼亚克以及美国前军政官员。 

名单上还有前参谋长联席会议主席迈克·穆伦、前国家安全顾问苏珊·赖斯、苏塞克斯公爵和公爵夫人哈里王子和梅根·马克尔，以及前爱尔兰dent 玛丽·罗宾逊。.

著名计算机科学家约书亚·本吉奥在“人工智能联盟”网站上发表声明，表达了该联盟的担忧。他表示，人工智能系统可能很快就会在认知任务方面超越大多数人类。本吉奥重申，科技可以帮助解决全球性问题，但如果发展鲁莽，也会带来巨大的危险。.

他说：“为了安全地迈向超级智能，我们必须从科学的角度确定如何设计人工智能系统，使其从根本上来说不会对人类造成伤害，无论是由于程序错误还是恶意使用。我们还需要确保公众在塑造我们共同未来的决策中拥有tron的发言权。”

未来生命研究所（Future of Life Institute）是一家非营利组织，成立于 2014 年，早期得到了 特斯拉 首席执行官埃隆·马斯克和科技投资者 Jaan Tallinn 的支持，该组织也是倡导负责任的人工智能治理的团体之一。 

该组织警告说，如果不加以适当监管，开发超级人工智能或人工超级智能（ASI）的竞赛可能会给人类带来不可逆转的风险。.

该组织在其最新声明中指出，超级智能可能导致“人类经济过时、权力丧失、自由、公民权利、尊严和控制权的丧失，以及国家安全威胁，甚至可能导致人类灭绝”。

FLI 要求政策制定者全面禁止超级智能研究和开发，直到获得“tron的公众支持”和“科学界的共识，即此类系统可以安全地建造和控制”。

科技行业对人工智能发展存在分歧

尽管一些团体反对人工智能对就业和产品开发造成的影响，但科技巨头们仍在努力拓展人工智能能力的边界。埃隆·马斯克的 xAI、萨姆·奥特曼的 OpenAI 和 Meta 都在竞相开发强大的大型语言模型 (LLM)。. 

今年7月，Meta首席执行官马克·扎克伯格在一次会议上表示，超级智能系统的研发“指日可待”。然而，一些人工智能专家认为，扎克伯格此举意在利用营销手段恐吓竞争对手，让他们误以为Meta在未来几年有望达到数千亿美元的人工智能领域“遥遥领先”。.

美国 政府 和科技行业一直抵制暂停人工智能研发的呼吁，声称对“人工智能末日”的担忧被严重夸大。反对暂停研发的人士认为，这将扼杀创新，减缓经济增长，并阻碍人工智能在医学、气候科学和自动化等领域可能带来的潜在益处。

然而，根据FLI委托进行的一项全国民意调查，美国公众普遍支持加强监管。这项针对2000名成年人的调查发现，四分之三的dent支持对先进人工智能进行更多监管，十分之六的受访者认为，在证明超人类人工智能可控之前，不应开发此类人工智能。. 

在成为 OpenAI 的首席执行官之前，萨姆·奥特曼曾在 2015 年的一篇博客文章中警告说，“超人类的机器智能可能是对人类持续生存的最大威胁”。

同样，埃隆·马斯克既资助又反对人工智能的发展，他今年早些时候在 乔·罗根的播客节目 ，人工智能超越人类智能“只有 20% 的可能性会毁灭人类”。