英国科学大臣宣布建立“烟雾报警器”系统以防止AI失控

作为一项开创性的举措，英国科学大臣米歇尔·多兰（Michelle Donelan）透露，计划实施一种新颖的“烟雾报警器”系统，以防止人工智能（AI）失控。在即将举行的英国AI安全峰会之前，多兰强调了人类历史的关键时刻，我们发现自己处于这样一个时刻，AI拥有带来巨大利益和潜在灾难性伤害的力量。这一举措凸显了在蓬勃发展的AI领域进行负责任监管的紧迫性。

人类的历史性十字路口

多兰断言，阻止AI对我们世界的变革性影响为时已晚，这强调了AI技术在我们生活中的无处不在。这种情绪反映了全球对AI作为一种渗透到社会几乎每个方面的力量的认可。

科学大臣对AI巨大潜力的双重关注——既有益也有害——在全球范围内得到了许多人的共鸣。随着AI的进步，人们对滥用AI的潜力以及AI系统不受控制运行的前景提出了合理的担忧，可能导致灾难性的后果。

应对前沿AI的风险

多兰方法的一个核心主题是解决与“前沿AI”相关的风险。这个AI子领域专注于推动AI模型能够实现的目标的边界，通常旨在最大化其能力并创造全新的技术。虽然前沿AI的创新令人兴奋，但也带来了重大风险。

多兰指出，这些尖端发展可能被恶意行为者操纵或失控，导致不可预测的结果。这些担忧促使专家警告AI可能对人类构成生存威胁。

然而，多兰也强调了AI的变革潜力，承认世界只有通过有效缓解相关风险，才能充分实现这些利益。

主动监管而非禁止

当被问及是否应通过监管禁止过于强大的AI模型时，多兰坚决拒绝了这一想法，表示任何倡导此类禁令的人都不真正了解AI。相反，她提倡一种主动的方法，拥抱AI带来的巨大机会，同时解决其相关风险。

多尼兰的立场与一种观点一致，即全面禁止人工智能会扼杀创新并阻碍进步。她并未诉诸禁令，而是寻求建立一个强有力的监管框架，其中包括有效监控和控制人工智能系统的措施。

“烟雾报警器”系统

多尼兰提案的核心是人工智能的“烟雾报警器”系统概念，她称之为“负责任的能力扩展”。在该系统下，开发人工智能技术的公司必须定义关闭系统的明确触发点。

目标是确保对公司监控其人工智能系统的流程保持完全透明。预计公司将进行风险评估，并在跨越特定预定阈值时进行干预，从而帮助防止人工智能失控。

全球人工智能监管合作

多尼兰致力于解决人工智能带来的挑战，其范围超出了英国国界。她强调需要国际合作来制定和实施有效的监管措施。多尼兰的方法与更广泛的全球共识一致，即政府、科技公司和其他利益相关者之间的合作对于成功应对复杂的人工智能监管格局至关重要。

即将举行的人工智能安全峰会

多尼兰已安排在英国举行人工智能安全峰会，以进一步巩固她的愿景，届时将讨论协调国际监管的问题。峰会将在历史悠久的布莱切利园（Bletchley Park）举行，鉴于其在密码学和计算领域的历史意义，这是一个非常合适的地点。

英国财政大臣里希·苏纳克将召集全球领导人，探讨建立统一国际人工智能监管框架的方法。英国首相旨在将英国定位为人工智能监管的全球领导者，并可能主办一个多边组织来监督安全的人工智能开发。