美国媒体与科技界人士呼吁暂停超级智能AI开发

一个由美国右翼媒体名人、科学家和科技领袖组成的联盟正在呼吁全球暂停开发超级人工智能（AI），直到科学界确保其能够被安全控制，这与公众的支持相呼应。

据路透社周三报道，这一由“生命未来研究所”协调的呼吁是通过一份联合声明宣布的，该声明由850多位公众人物签署。 

该文件要求各国政府和AI公司暂停所有 超级智能研究, 即那些被认为在认知能力上远超人类的AI系统，直到实施经公众批准的安全机制。

盟友汇聚，共同叫停超级智能AI开发 

The 签署人 该联盟由右翼媒体人史蒂夫·班农和格伦·贝克领导， alongside 顶尖人工智能研究人员杰弗里·辛顿和约书亚·本吉奥。其他成员包括维珍集团创始人理查德·布兰森、苹果联合创始人史蒂夫·沃兹尼亚克，以及前美国军方和政治官员。 

名单还包括前参联会主席迈克·马伦、前国家安全顾问苏珊·赖斯，以及萨塞克斯公爵哈里王子和梅根·马克尔，爱尔兰前总统玛丽·罗宾逊。

著名计算机科学家约书亚·本吉奥在倡议官网的声明中谈到了联盟的担忧，称人工智能系统可能很快在认知任务上超越大多数人类。本吉奥重申，技术有助于解决全球性问题，但若鲁莽开发，也将带来巨大危险。

“为了安全地迈向超级智能，我们必须科学地确定如何设计从根本上 incapable 伤害人类的 AI 系统，无论是通过不对齐还是恶意使用，”他说。“我们还需要确保公众在塑造我们集体未来的决策中拥有更强的发言权。”

生命未来研究所（The Future of Life Institute）是一家成立于 2014 年的非营利组织，早期获得 特斯拉 CEO 埃隆·马斯克（Elon Musk）和科技投资者 Jaan Tallinn 的支持，也是倡导负责任 AI 治理的组织之一。 

该组织警告称，若缺乏适当监管，建设超级智能人工智能或人工超智能（ASI）的竞赛可能给人类带来不可逆转的风险。

在其最新声明中，该团体指出，超智能可能导致“人类经济过时、权力丧失、自由、公民权利、尊严和控制权的丧失，以及国家安全威胁，甚至人类灭绝的潜在风险”。

未来生命研究所（FLI）呼吁政策制定者全面禁止超智能的研发，直到出现“强大的公众支持”和“科学共识，确认此类系统可以安全构建并受控”。

科技行业在AI发展上存在分歧

尽管一些团体反对AI对就业和产品开发的影响，科技巨头仍在努力拓展AI能力的边界。埃隆·马斯克的xAI、山姆·阿尔特曼的OpenAI以及Meta都在竞相开发强大的人工智能大语言模型（LLMs）。 

今年7月，Meta首席执行官马克·扎克伯格在一次会议上表示，超智能系统的开发“已近在眼前”。然而，一些AI专家声称，这位Meta首席执行官正利用营销策略来恐吓竞争对手，暗示其公司在未来几年预计将吸引数千亿美元投资的领域处于领先地位。

The 美国政府 科技行业一直抵制暂停开发的呼吁，声称对“人工智能末日”的恐惧被严重夸大。反对暂停开发的人认为，这将扼杀创新、减缓经济增长，并阻碍人工智能在医学、气候科学和自动化领域带来的潜在益处。

然而，根据由未来生命研究所（FLI）委托进行的一项全国民意调查，美国公众普遍支持更严格的监管。这项针对2000名成年人的调查显示，四分之三的受访者支持加强对先进人工智能的监管，六成受访者认为，在证明可控之前不应开发超越人类的人工智能。 

在担任OpenAI首席执行官之前，山姆·阿尔特曼曾在2015年的一篇博客文章中警告称，“超越人类的机器智能可能是人类持续存在面临的最大威胁。”

同样，埃隆·马斯克一边资助人工智能发展，一边又对其持反对态度，他今年早些时候在 乔·罗根播客 中表示，人工智能超越人类智能导致“灭绝的可能性仅为20%”。