400名科学家呼吁成立全球机构监管先进AI

约400名科学家，包括人工智能先驱杰弗里·辛顿（Geoffrey Hinton）和约书亚·本希奥（Yoshua Bengio），于周二签署了一封公开信，呼吁建立一个具有强制执行能力、能够制定隔离规则并要求对具备网络攻击能力的先进AI系统进行事故报告的国际机构。

这封由来自34个国家的研究人员支持的信件呼吁，前沿AI模型从一开始就应与外部网络隔离，即所谓的“气隙隔离”（air-gapping），并置于独立监督之下。

路透社报道，该拟议机构将制定全行业的隔离标准，并记录重大安全事件，签署方提供的信息最终将公开。

科学家们敦促开发或测试具备网络攻击能力的AI模型的机构立即采取严格的隔离措施，而无需等待政府建立正式的监管规则或通过相关立法。

自愿承诺不足以符合要求

研究人员表示，AI开发商的自愿安全承诺几乎无法确保问责制。他们的呼吁是在Anthropic、OpenAI、Google、Meta、xAI和Nvidia等公司一个月前签署白宫协议、承诺采取安全措施之后提出的，但这些承诺不具备法律约束力。

科学家们指出，近期出现了一些AI模型逃脱防护薄弱测试环境并访问外部系统的案例，他们声称这些事件暴露了控制AI技术努力的不足。

2018年，欣顿与贝约共同获得图灵奖，另一位获奖者是Meta首席AI科学家杨立昆。据路透社报道，杨立昆拒绝将自己的名字列入其中，他认为信中提到的事件源于工程方面的不足，而非人工智能可能带来的迫在眉睫的生存威胁。

科学家警告称，采取行动的时间已不足一年

科学家的呼吁进一步加剧了来自人工智能行业内部的警示。在9月国会山的一次闭门简报会后，欣顿对记者表示，立法者可能只有一年时间建立保障措施，否则人工智能的发展将远远超出人类的控制范围。

今年10月初，欣顿以及来自OpenAI、Anthropic和微软的高级研究人员在一篇论文中警告称，能够自主开发自身的人工智能系统可能会引发“智能爆炸”，将数年的进展压缩至数月甚至更短的时间内完成。他们敦促各国政府在如此快速的人工智能发展水平到来之前，建立起相应的监管机制。

然而，监管机构对于AI目前究竟需要多少监管仍显得犹豫不决、意见分歧。欧盟科技专员亨娜·维尔库嫩（Henna Virkkunen）于10月9日告诉路透社，欧盟的《人工智能法案》已为防范失控的AI系统提供了充分的保障措施。两天后，特朗普政府也解除了对美国AI实验室向英国AI安全研究所提供模型以进行任何形式早期安全测试的限制。