NIST 警告 AI 漏洞——网络攻击构成未解决的威胁

在技术不断演变的格局中，人工智能（AI）的承诺伴随着日益增加的担忧：AI 系统容易受到网络攻击。最近，美国商务部国家标准与技术研究院（NIST）发布了一份关于“可信和负责任的 AI”的报告，揭示了保护 AI 系统免受恶意行为者侵害的持续挑战。该报告确定了四种可能操纵 AI 系统行为的网络攻击类型，敦促社区制定更强大的防御措施。

对抗性机器学习的威胁

NIST 报告深入探讨了对手机器学习的复杂性，将潜在攻击者分为三种不同类型：白盒黑客、沙盒黑客和灰盒黑客。白盒黑客完全了解 AI 系统，沙盒黑客访问权限极少，而灰盒黑客掌握关于 AI 系统的部分信息，但无法访问其训练数据。尽管他们的洞察力程度不同，但这三类人都对 AI 系统的完整性构成严重威胁。

Entersekt 的首席技术官 Gerhard Oosthuizen 指出，数字领域的欺诈行为正在上升。最初承诺带来胜利的技术，在面对日益复杂的欺诈活动时，现在带来了更多挑战。NIST 报告强调，随着 AI 日益嵌入我们的互联经济，风险正在升级。

报告突出了两种主要的对抗性机器学习攻击：投毒和滥用。AI 系统投毒涉及在训练阶段注入损坏的数据，导致系统 malfunction。NIST 引用了一个例子，其中不良行为者在对话记录中引入不当语言，导致聊天机器人将这些实例视为客户互动中的常用语。

另一方面，滥用攻击涉及将错误信息插入 AI 系统吸收的合法来源。这些攻击旨在通过提供错误信息来重新利用 AI 系统的预期用途。NIST 报告合著者、东北大学教授 Alina Oprea 指出，这些攻击非常简单，只需要很少的知识和对抗能力。

网络攻击曝光——驾驭 AI 防御的复杂性

隐私攻击和规避攻击为 AI 防御增加了更多的复杂性。隐私攻击试图通过合法问题逆向工程模型，以获取有关 AI 或其训练数据的敏感信息。规避攻击发生在部署后，旨在改变 AI 系统对传统输入的反应。这包括对路标的欺骗性修改，对自动驾驶汽车构成风险。

总体挑战在于使 AI 模型“遗忘”所学行为非常困难，即使这些行为被证明是恶意的或具有破坏性的。随着 AI 更深入地融入我们的日常生活，报告警告说，必须解决这些漏洞以防止灾难性故障。

随着网络攻击的阴影笼罩着 AI 的发展，NIST 报告引起了人们对保护 AI 系统未解决挑战的关注。呼吁社区提供更好的防御措施，突显了解决这些漏洞的紧迫性。AI 社区能否集体制定万无一失的措施来防范不断演变的网络威胁，还是我们注定要在不断扩大的对抗性机器学习攻击迷宫中艰难前行？AI 防御的未来取决于我们创新并保持领先于那些试图利用其漏洞的人的能力。