AI 浏览器成为黑客的下一个主要目标

来自 OpenAI 的 Atlas 和来自 Perplexity 的 Comet 等 AI 浏览器承诺提供便利。 但它们带来了重大的网络安全风险，为黑客形成了一个新的游乐场。

AI 驱动的网络浏览器与 Google Chrome 和 Brave 等传统浏览器竞争，旨在吸引数十亿每日互联网用户。

几天前，OpenAI 发布了 Atlas，而 Perplexity 的 Comet 已经存在了几个月。AI 驱动的网络浏览器可以自动打字和点击页面。用户可以告诉它预订航班、总结电子邮件，甚至填写表格。

基本上，AI 驱动的网络浏览器旨在充当数字助手并自主浏览网络。它们被誉为在线生产力的下一个重大飞跃。

安全研究人员标记 AI 浏览器缺陷

但大多数消费者并不了解使用 AI 浏览器带来的安全风险。此类浏览器容易受到一种称为提示注入的新现象的复杂黑客攻击。

黑客可以利用 AI 网络浏览器，访问用户的登录会话，并执行未经授权的操作。例如，黑客可以访问电子邮件、社交媒体账户，甚至查看银行详细信息并转移资金。

根据 Brave 最近的研究，黑客可以将隐藏指令嵌入网页甚至图像中。当 AI 代理分析此内容并看到隐藏指令时，它可能会被诱骗执行这些指令，就像它们是合法的用户命令一样。AI 网络浏览器无法区分真实和伪造的用户指令。

Brave 工程师对 Perplexity 的 Comet 进行了实验，并测试了其对提示注入的反应。发现 Comet 会处理隐藏在截图中的不可见文本。这种方法使攻击者能够轻松控制浏览工具并提取用户数据。

Brave 的工程师将这些漏洞称为“整个 AI 驱动浏览器类别面临的系统性挑战”。

提示注入难以修复

安全研究人员和工程师表示，提示注入很难修复。这是因为人工智能模型不理解指令的来源。它们无法区分真实和伪造的提示。

传统软件可以区分安全输入和恶意代码，但大型语言模型（LLMs） 在这方面很吃力。LLMs 处理所有内容，包括用户请求、网站文本甚至隐藏数据，并将其视为一个大的对话。

这就是为什么提示注入很危险。黑客可以轻松地在看似安全的内容中隐藏虚假指令，从而窃取敏感信息。

AI公司承认提示注入是一个严重威胁

Perplexity表示，此类攻击不依赖代码或被盗密码，而是操纵 AI 的“思考过程”。该公司为 Comet 构建了多层防御以阻止提示注入攻击。它使用实时检测威胁的机器学习模型，并集成了护栏提示，使 AI 专注于用户意图。此外，浏览器要求对发送电子邮件或购买商品等敏感操作进行强制用户确认。

安全研究人员认为，在重大改进推出之前，AI 驱动的网络浏览器 不应被信任处理敏感账户或个人数据。用户仍可使用 AI 网络浏览器，但应禁用自动操作、无法使用工具，并避免在登录银行账户、电子邮件或医疗应用程序时使用它们。

OpenAI 的首席信息安全官（CISO）Dane Stuckey 承认了提示注入的危险，并在 X 上写道：“我们正在认真研究和缓解的一个新兴风险是提示注入，攻击者将恶意指令隐藏在网站、电子邮件或其他来源中，试图诱使代理以非预期的方式行事。”

他解释说，OpenAI的目标是让人们“信任ChatGPT代理[们]使用你的浏览器，就像你信任你最能干、最值得信赖且具备安全意识的同事或朋友一样”。Stuckey表示，OpenAI的团队正在“努力实现这一目标”。