OpenAI 的 Atlas 和 Perplexity 的 Comet 等 AI 浏览器承诺带来便利， 但它们也存在严重的网络安全风险，为黑客提供了新的活动场所。
人工智能驱动的网络浏览器与谷歌 Chrome 和 Brave 等传统浏览器展开竞争，目标是trac数十亿每日互联网用户。.
几天前，OpenAI 发布了 Atlas，而 Perplexity 的 Comet 已经面世数月。人工智能浏览器可以自动输入文字并浏览页面。用户可以让它预订机票、总结邮件内容，甚至填写表格。.
简而言之，人工智能浏览器旨在充当数字助手，自主浏览网页。它们被誉为在线生产力领域的下一个重大飞跃。.
安全研究人员发现了人工智能浏览器的漏洞。
但大多数消费者并未意识到使用人工智能浏览器带来的安全风险。这类浏览器很容易受到一种名为“提示注入”的新型攻击手段的复杂攻击。.
黑客可以利用人工智能网络浏览器漏洞，获取用户登录会话的访问权限，并执行未经授权的操作。例如，黑客可以访问电子邮件、社交媒体帐户，甚至查看银行详细信息并转移资金。.
根据Brave最近的研究，黑客可以将隐藏指令嵌入网页甚至图片中。当人工智能代理分析这些内容并发现这些隐藏指令时，就可能被诱骗执行它们，将其误认为是合法的用户指令。人工智能浏览器无法区分真假用户指令。
Brave公司的工程师们对Perplexity公司的Comet漏洞进行了实验，并测试了它对提示符注入的反应。他们发现Comet能够处理隐藏在屏幕截图中的不可见文本。这种方法使得攻击者能够轻松trac
Brave 的工程师称这些漏洞是“整个 AI 浏览器类别面临的系统性挑战”。
及时注射很难修复。
安全研究人员和工程师表示，提示注入攻击很难修复。这是因为人工智能模型无法理解指令的来源，也无法区分真实提示和虚假提示。.
传统软件能够区分安全输入和恶意代码，但大型语言模型（LLM）却难以做到这一点。LLM 会处理所有内容，包括用户请求、网站文本，甚至是隐藏数据，并将它们视为一场大型对话。
这就是为什么提示符注入很危险。黑客可以轻易地将虚假指令隐藏在看似安全的内容中，从而窃取敏感信息。.
人工智能公司承认，快速注射是一个严重的威胁。
Perplexity公司指出，此类攻击并非依赖于代码或窃取的密码，而是操纵人工智能的“思维过程”。该公司在Comet浏览器周围构建了多层防御机制，以阻止提示注入攻击。Comet采用机器学习模型实时检测威胁，并集成了防护提示，确保人工智能始终专注于用户意图。此外，该浏览器还要求用户在执行诸如发送电子邮件或购买商品等敏感操作时进行强制确认。
安全研究人员认为，人工智能浏览器来处理敏感账户或个人数据。用户仍然可以使用人工智能浏览器，但无法访问相关工具，自动化操作也应禁用，并且应避免在登录银行账户、电子邮件或医疗保健应用程序时使用此类浏览器。
OpenAI 的首席信息安全官 (CISO) Dane Stuckey 承认了提示注入的危险性，并写道：“我们正在非常认真地研究和缓解的一个新兴风险是提示注入，攻击者将恶意指令隐藏在网站、电子邮件或其他来源中，试图诱骗代理以非预期的方式行事。”
他解释说，OpenAI 的目标是让人们“信任 ChatGPT 代理使用浏览器，就像信任你最能干、最值得信赖、最有安全意识的同事或朋友一样”。斯塔基表示，OpenAI 团队“正在努力实现这一目标”。
