英美AI安全协议在技术演进中的作用

AI安全协议是英国和美国政府之间的联合努力，旨在通过革命性方法开发人工智能技术的广阔增长潜力和安全性。 

这项合作于2024年4月初由英国科技部长米歇尔·多兰和美国商务部长吉娜·雷蒙多在英国-美国技术跨大西洋战略对话框架下正式确立。 

AI安全协议旨在解决新兴挑战和伦理标准

该协议旨在引入科学方法和两国之间的共同努力，以制定可信赖的人工智能模型、系统和代理的准则，使其能够胜任工作。

人工智能在不同领域具有影响力，例如医疗保健、金融和教育，以至于它已被用于关键和敏感的基础设施。其传播速度以及人工智能计算能力的提高使情况更加紧迫，需要制定严格的安全措施和伦理原则。 

根据IEEE高级成员、唯一工程培训师艾莎·伊克巴尔的说法，人工智能的增长率预计从2023年到2030年每年为37.3%。这种急剧扩张带来了挑战，如人类专业人员供应有限、复杂的系统和架构设计、政府相关问题以及社会问题，如方案自动化和就业替代。

该协议促进可解释的AI和伦理标准

达成该协议的理由是，通过建立人工智能安全和负责任开发的标准来解决这些挑战。这些标准不仅作为减少风险和问责制的证明，还旨在创造信任环境，并仔细监控这些系统的伦理设计。

在斯坦福大学工作的AI伦理工程师伊丽莎白·沃森指出了可解释人工智能及其兴起的重要性。AI的这一方面涉及使算法对非专家易于理解，其海军（注：此处原文navies疑为navigators或类似词误译，但按规则保留原意或直译，结合上下文指受AI影响的人群）在社会越来越多的领域受到日益影响，这是一个必须在更多部门具备的关键特征。可解释的AI有助于监管机构公众检查和质疑算法结果，确保机器学习系统既具有可解释性又具有责任感。

通过前瞻性合作产生的全球影响

英国-美国的合作可被视为两个最发达的AI安全国家的一种战略。这种合作预计将发挥引领作用，并通过共同努力制定共同的安全协议，同时为AI系统测试制定标准，作为一项整体措施。 

这些协议作为检查AI系统是否能够概括未知情况，同时做出理性判断或否，同时保持系统功能灵活性的工具。

此前，沃森表示，由于合作，世界将接触到有效标准的传播，这些标准将回答人们对AI自主权的持续担忧。通过合作方式，英国和美国为其他国家树立了榜样，制定了支持性和伦理性的规则书，这可能决定AI在全球范围内的治理方式在长期内。

这项协议已成为针对AI技术新兴系统造成的全面问题的第一个主动行动。它不仅标志着国际协作在技术发展中的价值，还暗示科学和技术可以集体注入方向感，使我们能够有效地管理和引导AI的增长。