为什么 CISA 敦促将安全 AI 设计与核心安全联系起来？

美国网络安全和基础设施安全局（CISA）强调，必须在 人工智能（AI） 系统的开发阶段就将安全融入其核心。正如 CISA 所倡导的这种主动方法，旨在防止部署后出现漏洞，这种情况不仅复杂，而且纠正成本高昂。该局呼吁进行安全的 AI 设计，与其更广泛的运动保持一致，即将安全无缝地整合到设计和开发阶段，而不是将其视为事后补充。

核心安全：CISA 的持续使命

在其最近的 帖子 中，CISA 强烈敦促 AI 开发人员采用“设计即安全”范式，重申 AI 本质上是一种软件形式的原则。该局试图通过强调其根本上的软件性质来消除人们对 AI 的误解，使其受任何软件都要求的安全要求的约束。这呼应了全球网络安全专家长期以来将安全视为固有组成部分而非外围附加物的努力。

视角的转变：从外部性到承诺

CISA 局长 Jen Easterly 在今年早些时候的一次演讲中强调，需要彻底改变科技行业对安全的看法。历史上，安全往往被置于次要地位，其成本外部化给用户。Easterly 呼吁彻底改变这种方法，倡导重新承诺安全，将其嵌入软件开发生命周期。此外，Easterly 建议改变责任分配，提出软件开发商应承担更大的责任份额。

机器学习的相互关联挑战

CISA 的博客文章引起了人们对机器学习复杂性的关注，强调其代码紧密交织的性质。值得注意的是，AI 系统中单个输入的修改可能会产生深远的影响。这种复杂的相互依赖性在 Google 研究人员 2014 年的一篇开创性论文中得到了强调，他们恰当地将 AI 开发中未解决的技术挑战比作“技术债务的高息信用卡”。

针对 AI 的定制安全实践

虽然博客文章承认 AI 系统设计即安全的必要性，但也认识到 AI 带来的独特挑战。CISA 编制了一份基本的、跨行业的安全实践清单，同样适用于 AI 软件。该局强调遵守这些指南的重要性，特别是在威胁行为者利用非 AI 软件组件中已知漏洞的情况下。

AI 安全的整体方法

CISA 强调，既定的社区期望的安全实践和政策应规范 AI 开发的各个方面，包括设计、开发、部署、测试、数据管理、系统集成以及漏洞和事件管理。在处理 AI 模型文件格式时，必须采取强有力的措施来阻止对不受信任代码执行的尝试。此外，建议使用内存安全语言作为抵御潜在威胁的额外保障措施。

AI 工程中的问责制和透明度

除了技术保障措施外，CISA 还敦促 AI 工程社区采用增强问责制和透明度的实践。这包括实施漏洞标识符，如 CVE（通用漏洞和披露），并为 AI 模型及其依赖项维护全面的软件物料清单。隐私问题也没有被忽视，因为该局呼吁默认遵守基本隐私原则。

AI 安全的关键时刻

CISA 对 AI 设计即安全的激情呼吁标志着 AI 开发领域的一个关键转折点。通过将安全置于设计和开发的前沿，该局倡导一种范式转变，这可能会防止未来发生重大安全漏洞。在一个 AI 系统日益普及的世界里，这种主动立场可以为更安全、更具韧性的数字景观铺平道路。