全球网络安全机构在 AI 安全指南中倡导“安全设计”方法

英国国家网络安全中心（NCSC）和美国网络安全和基础设施安全局（CISA）联合全球 22 个网络合作伙伴，发布了一套全面的指南，以确保人工智能（AI）系统的安全。强调“安全设计”理念，该指南深入探讨了 AI 开发的关键方面，旨在加强技术以抵御网络威胁和漏洞。

联合指南题为“安全设计”，强调了与 AI 和机器学习应用程序相关的日益增加的安全风险，特别解决了由此产生的供应链漏洞和这些系统中使用的模型的问题。

安全的基石

在“安全设计”这一总体主题下，指南重点关注四个关键领域：安全设计、安全开发、安全部署以及安全运维。这些支柱共同旨在建立一个强大的框架，以保护人工智能系统免受潜在网络威胁的侵害。

首要支柱审慎地强调了在概念构思之初，便将深刻且普遍的安全中心主义理念融入人工智能系统本质和架构中的不可辩驳且至关重要的意义。该支柱坚决阐明并阐述了开发人员必须勤勉地将 heightened 且坚定不移的安全意识注入系统基础架构的必要性，从而有效且前瞻性地缓解和减轻与使用第三方模型和 API 密切相关的漏洞。

随后的支柱顺理成章地承接这一基础原则，将上述安全范式的适用范围扩展至开发阶段这一错综复杂且细微的领域。 

该支柱热情且坚定地倡导一系列审慎明智的措施，包括但不限于：对外部 API 进行细致入微的审查以发现潜在缺陷和漏洞；审慎且谨慎地限制数据传输至外部领域的范围和幅度；以及对训练数据进行勤勉且彻底的审查和清理，坚定不移地避免和防止任何可能损害安全态势神圣完整性的系统行为的意外和不受欢迎表现。

应对全球人工智能安全合规挑战

尽管这些指南代表了国际人工智能安全合作的重要一步，但在执行方面仍面临挑战。Armis 外部和政府事务副总裁 Tom Guarente 指出，未参与指南制定的国家在实施这些建议时可能会遇到困难。这引发了关于如何确保全球遵守的问题，特别是中国、俄罗斯和伊朗等主要参与者尚未承诺遵守全球人工智能监管规定。

Guarente 指出，实施便利程度可能存在潜在差异，建议参与指南起草的国家可能比被排除在发展过程之外的国家更容易遵守。

虽然这些指南集体承认了网络安全在快速演变的人工智能格局中的关键作用，但在全球范围内执行这些措施的挑战依然存在。Guarente 的担忧反映了需要更广泛的国际共识和承诺，以确保人工智能安全。

国际协作与人工智能安全指导面临的挑战

随着全球社区在建立 AI 安全 共同标准方面迈出重要一步，真正的挑战在于确保广泛采用和执行。国际社会如何弥合差距并获得未参与合作努力的国家的认可？确保 AI 安全的旅程无疑已经开始，但前方的道路需要应对复杂性并培养保护这一变革性技术的统一承诺。