全球网络安全机构倡导在人工智能安全指南中采用“安全设计”方法

英国国家网络安全中心 (NCSC) 和美国网络安全与基础设施安全局 (CISA) 联合全球 22 家网络安全合作伙伴，发布了一套全面的人工智能 (AI) 系统安全指南。该指南强调“安全设计”理念，深入探讨了人工智能开发的关键环节，旨在增强人工智能技术抵御网络威胁和漏洞的能力。.

这份名为“安全设计”的联合指南重点强调了人工智能和机器学习应用日益增长的安全风险，特别针对供应链漏洞和这些系统中使用的模型所引发的问题。.

安全支柱

在“安全设计”这一总体主题下，该指南重点关注四个关键领域：安全设计、安全开发、安全部署以及安全运行和维护。这些支柱共同旨在构建一个强大的框架，以保护人工智能系统免受潜在的网络威胁。.

首项支柱着重强调了从概念构思之初就将以安全为中心的理念深刻而全面地融入人工智能系统的本质和架构之中，这一重要性毋庸置疑。该支柱坚定地强调并阐明了开发人员必须认真地将高度且坚定的安全意识融入系统的基础架构中，从而有效且预先地缓解和消除与第三方模型和API使用密切相关的各种漏洞。.

后续支柱无缝且有机地继承了基础原则，阐述并扩展了上述安全范式的范围，进入了错综复杂、微妙的发展阶段。. 

该支柱dent而强烈地倡导一系列全面、审慎而明智的措施，包括但不限于：对外部 API 进行一丝不苟的审查，以发现潜在的漏洞和缺陷；审慎而谨慎地限制向外部域传输数据的范围和程度；以及对训练数据进行认真彻底的审查和清理，并坚定不移地致力于消除和预防任何可能损害安全态势神圣性的不可预见和不希望出现的系统行为。.

应对全球人工智能安全合规方面的挑战

尽管这些指导方针标志着人工智能安全领域国际合作迈出了重要一步，但在执行方面仍存在挑战。Armis对外及政府事务副dent 汤姆·瓜伦特强调，未参与指导方针制定的国家可能难以落实这些建议。这引发了如何确保全球遵守这些方针的问题，尤其是在中国、俄罗斯和伊朗等主要国家尚未承诺遵守全球人工智能法规的情况下。.

Guarente 指出实施的难易程度可能存在差异，他认为参与制定指导方针的国家可能会发现遵守这些方针比那些被排除在制定过程之外的国家更容易。.

尽管这些指导方针共同认可了网络安全在快速发展的人工智能领域中的关键作用，但在全球范围内执行这些措施仍然面临挑战。Guarente 的担忧也反映了需要更广泛的国际共识和承诺来确保人工智能安全。.

人工智能安全指导方面的国际合作与挑战

随着全球社会在建立人工智能安全通用标准方面取得重大进展，真正的挑战在于确保这些标准得到广泛采纳和执行。国际社会如何才能弥合差距，并获得尚未参与合作的国家的支持？人工智能安全之路无疑已经开启，但前路漫漫，需要应对各种复杂情况，并凝聚共识，共同致力于保护这项变革性技术。