人工智能安全协议是英国和美国政府之间的共同努力，旨在通过革命性的方法开发人工智能技术的有希望的增长潜力和安全性。
英国技术大臣米歇尔·多尼兰和美国商务部长吉娜·雷蒙多于 2024 年 4 月上旬在英美技术跨大西洋战略对话下正式确定了这一合作。
应对新兴挑战和道德标准的人工智能安全协议
该协议旨在引入科学方法和两国之间的共同努力，为人工智能模型、系统和代理打造值得信赖的导体，以完成工作。
人工智能在医疗保健、金融和教育等不同领域都具有重要地位，以至于关键和敏感的基础设施都依赖它。 人工智能的传播速度和计算能力的提高使情况变得更加紧迫，需要制定严格的安全措施和道德原则。
IEEE 高级会员、唯一工程培训师 Ayesha Iqbal 表示，预计从 2023 年到 2030 年，人工智能将以每年 37.3% 的速度增长。这种matic扩张带来了人类专业人员供应有限等挑战。系统和架构设计、政府相关问题以及方案自动化和工作转移等社会问题。
该协议促进可解释的人工智能和道德标准
该交易的合理性在于，可以通过建立人工智能安全和负责任的开发标准来应对这些挑战。 这些标准不仅充当风险降低措施和责任证明。 它们还旨在创建一个值得信赖的环境，并仔细监控这些系统的道德设计。
斯坦福大学人工智能伦理工程师伊丽莎白·沃森（Elizabeth Watson）指出了可解释人工智能及其崛起的重要性。 人工智能的这一方面是让非专家能够理解算法，因为他们的海军在社会的更多领域受到越来越多的影响，这是一个必须在更多领域出现的关键功能。 可解释的人工智能有助于监管机构和公众检查和质疑算法结果，确保机器学习系统既可解释又负责任。
通过前瞻性合作产生全球影响
英美合作可以被认为是人工智能安全领域两个最发达国家的战略。 这种合作预计将引领潮流，并共同行动，开发通用的安全协议，同时为人工智能系统测试制定一个有益的标准。
这些协议作为工具来检查人工智能系统是否能够泛化到未知情况，同时做出理性判断，同时保留系统的功能灵活性。
沃森此前表示，通过合作，世界将接触到有效标准的传播，这些标准将消除人们对人工智能自主性的持续担忧。 通过合作方式，英国和美国为其他国家制定支持性和道德规则手册提供了范例，该规则手册可能会决定人工智能在全球范围内的长期治理方式。
该协议成为针对人工智能技术新兴系统产生的综合问题的第一个主动行动。 它不仅体现了国际合作在技术发展中的价值，也意味着科学技术可以共同注入方向感，使我们能够有效地管理和引导人工智能的发展。
