保障 AI 生态系统：前行之路

AI 驱动的软件和机器学习模型已成为现代技术不可或缺的一部分，但其迅速普及也带来了新的网络安全挑战。随着攻击者越来越多地针对 AI 软件包中的漏洞，组织必须采取严格的安全措施来保护其 AI 工件和系统。本文探讨了 AI 安全不断变化的格局，并概述了加强防御所需的策略。

在 AI 时代，攻击者被低垂的果实所吸引，利用 AI 软件包和语言模型（LLMs）普及所创造的机会。他们采用的一个阴险方法是域名抢注（typosquatting），这是一种模仿 AI 图像和软件包的手法。这种技术导致开发者必须筛选大量伪造的工件，从而造成“拒绝服务”（DoS），导致资源和时间的巨大浪费。

真实性的重要作用

为了应对针对 AI 工件的 Sybil 式攻击，开发者必须优先考虑真实性。实现这一目标的一种方法是通过经过验证的流程，如签名提交和软件包。可信的来源和供应商应成为获取开源工件的主要渠道。这种方法作为一种长期的预防机制，使攻击者更难渗透和破坏 AI 软件存储库。

随着 AI 的发展，攻击者利用它创建更具说服力的域名抢注存储库，并自动化扩展虚假 AI 软件工件。同时，开发者利用 AI 来扩大安全漏洞和常见漏洞和暴露（CVE）的发现规模。 

然而，这把双刃剑带来了挑战。AI 经常检测到未经严格审查的 CVE，使安全团队应接不暇，并造成“嘈杂的寻呼机”综合征，即区分合法漏洞和噪音变得异常困难。

在信号与噪音的问题中，AI 安全领域正在发生一场关键的转变。采用加固的、最小化的容器镜像有望减少可被利用的软件包数量。 

这种转变使安全团队更容易守护其领地，并使开发团队能够以安全为核心构建 AI 驱动的软件。干净的基线镜像正成为基本的 AI 安全卫生标准，这是从最近的 PoisonGPT 等漏洞中吸取的教训，这些漏洞暴露了流行 AI 框架中的弱点。

削减冗余：最小化容器镜像

当开发者安装基线镜像时，他们信任其来源及其依赖项的安全性。这种高度关注集中在消除多余依赖项上，确保镜像仅包含所需的 AI 库和功能。这种做法植根于 AI 安全卫生，消除了可能被利用以未经授权访问对 AI 模型训练至关重要的海量数据集的递归依赖项。

对 AI 系统可信度的追求不仅限于容器镜像。加密签名、可信计算以及在安全硬件上运行的 AI 系统增强了安全透明度。然而，最终目标是开发者能够通过透明日志跟踪 AI 模型——这些不可变的记录提供了保管链，包括有关训练模型、其创建者、训练过程和访问历史的详细信息。

可信度的新时代

展望 2024 年，一场重大转变正在酝酿之中。语言模型（LLMs）将越来越多地基于其可信度进行选择，可验证的来源记录将成为信任机制的基石。这些记录将清晰地描绘 AI 模型的历史和谱系，确保组织能够自信地依赖其 AI 系统。