黑客利用“提示注入”技术操纵 AI 系统

黑客发现了一种名为“提示注入”的新技巧，利用 AI 系统的响应能力，使他们能够使用简单的英语命令操纵这些系统。一个著名的案例涉及安全研究员 Johann Rehberger，他成功诱导 OpenAI 的 ChatGPT 执行未经授权的操作，例如阅读电子邮件、总结其内容并发布到网上。这种方法突显了 AI 技术相关的潜在安全风险，以及防范此类漏洞的必要性。

AI 对提示注入攻击的脆弱性

ChatGPT 等 AI 系统因其能够快速响应基本命令而广受欢迎，吸引了超过 1 亿用户。然而，这种便利性也吸引了利用 AI 局限性的黑客。Rehberger 证明，黑客可以使用纯语言破坏 AI 系统，使得无需广泛的编码技能或深厚的计算机科学知识即可操纵技术。在这种情况下，攻击并不一定针对所有 ChatGPT 用户，而是利用特定的功能或漏洞。

提示注入技术

Rehberger 采用的提示注入技术是随着 AI 技术在各个行业和消费产品中普及而变得更为重要的新型网络攻击的一部分。这些攻击利用的漏洞可以重新定义 AI 驱动格局中的黑客概念。安全研究人员正在与时间赛跑，以在恶意行为者广泛利用这些漏洞之前识别并解决它们。

担忧与攻击类型

围绕 AI 安全漏洞存在各种担忧。“数据投毒”攻击中，黑客篡改训练数据以误导 AI 模型，对可靠模型结果构成风险。新兴的担忧包括 AI 系统中的伦理偏见、虚假信息运动、导致企业数据泄露的提取攻击，以及使用 AI 突破防御性安全系统。

保护 AI 系统的挑战

由于这些技术的不断演变，保护 AI 系统的努力充满挑战。虽然创作者试图预测滥用场景，但提示注入等新技术不断涌现。即使是像 Google 的 VirusTotal 这样受到良好保护的系统（使用 AI 进行恶意软件分析）也无法免受攻击。Google 的系统被一名黑客欺骗，该黑客操纵代码将恶意软件描述为无害。

即将到来的 Defcon 黑客大会

OpenAI、Google 和 Anthropic 等公司将在拉斯维加斯举行的年度 Defcon 黑客大会上向黑客开放其 AI 系统。该活动将允许黑客识别这些 AI 系统中的漏洞，并因成功攻击而获得奖励。这次大会凸显了需要强大的安全措施来保护 AI 技术免受利用。

影响与未来安全措施

随着 AI 驱动的设备和应用日益融入日常生活，黑客利用它们的潜在途径也随之增加。正如普林斯顿大学计算机科学教授 Arvind Narayanan 所强调的那样，依赖语言模型做出决策可能会导致更多的操纵途径。因此，确保 AI 系统的安全不仅涉及解决漏洞，还涉及理解 AI 相关漏洞的深远后果。

提示注入攻击和其他 AI 相关漏洞的出现强调了在 AI 格局中持续保持警惕和采取安全措施的必要性。ChatGPT 的事件表明，黑客可以使用简单的语言操纵 AI 系统，而无需先进的技术技能。安全研究人员、科技公司以及更广泛的社区必须合作，以预测、检测和减轻此类威胁，在最小化风险的同时保障 AI 的潜在益处。