黑客在大规模 AI 盗窃行动中向谷歌 Gemini 发送大量问题

谷歌的 AI 聊天机器人 Gemini 已成为大规模信息盗窃的目标，攻击者通过向系统发送大量问题来复制其工作原理。仅一次行动就向聊天机器人发送了超过 10 万个查询，试图提取使其变得智能的秘密模式。

该公司周四表示，这些所谓的“蒸馏攻击”正在加剧。不良行为者一波接一波地发送问题，以弄清楚 Gemini 响应背后的逻辑。他们的目标很简单：窃取谷歌的技术来构建或改进他们自己的 AI 系统，而无需花费数十亿美元进行开发。

谷歌认为，大多数攻击者是私营企业或研究人员，他们希望在不付出艰苦努力的情况下抢占先机。根据该公司的 报告，攻击来自世界各地。领导谷歌威胁情报组的 John Hultquist 表示，使用定制 AI 工具的小型公司很快可能会面临类似的攻击。

科技公司已在构建其 AI 聊天机器人上投入数十亿美元。这些系统的内部运作被视为皇冠上的明珠。即使有防御措施来捕捉这些攻击，主要 AI 系统仍然容易成为目标，因为任何有互联网访问权限的人都可以与它们交谈。

去年，OpenAI 指责中国公司 DeepSeek 声称其使用蒸馏技术来改进其模型。Cryptopolitan 在 1 月 30 日报道，在 OpenAI 指控中国公司使用蒸馏技术窃取其 AI 模型后，意大利和爱尔兰禁止了 DeepSeek。该技术使公司能够以极低的成本复制昂贵的技术。

攻击者为什么要这样做？

经济因素非常残酷。构建最先进的 AI 模型需要花费数亿甚至数十亿美元。据行业报告称，DeepSeek 据报道使用蒸馏技术以约 600 万美元的价格构建了其 R1 模型，而 ChatGPT-5 的开发成本超过 20 亿美元。窃取模型的逻辑将这项巨额投资几乎削减为零。

谷歌表示，许多针对 Gemini 的攻击都针对帮助其“推理”或处理信息的算法。使用敏感数据（如 100 年的交易策略或客户信息）训练自己 AI 系统的公司，现在面临同样的威胁。

“假设你的 LLM 已经接受了 100 年你交易方式的神秘思考的训练。理论上，你可以从中蒸馏出一些内容，”Hultquist 解释道。

国家黑客加入搜寻

问题不仅仅在于贪婪的公司。2024 年 3 月受到美国制裁的中国政府黑客组织 APT31，在去年年底使用 Gemini 策划针对美国组织的实际 网络攻击。

该组织将 Gemini 与 Hexstrike 配对，Hexstrike 是一个开源黑客工具，可以运行超过 150 个安全程序。根据谷歌的报告，他们分析了远程代码执行漏洞、绕过 Web 安全的方法以及 SQL 注入攻击——所有这些都针对特定的美国目标。

Cryptopolitan 此前曾报道过类似的 AI 安全问题，警告黑客正在利用 AI 漏洞。APT31 的案例表明这些警告非常准确。

Hultquist指出了两大主要担忧。一是对手在几乎无需人工干预的情况下开展整个入侵行动，二是自动化开发攻击工具。“这是对手获得重大优势并以最少人为干扰推进入侵周期的两种途径，”他说。

发现软件漏洞与部署修复程序之间的窗口期，即“补丁差距”，可能会急剧扩大。组织通常需要数周时间才能部署防御措施。随着AI代理自动发现并测试漏洞，攻击者的行动速度可能会大大加快。

“我们将不得不利用AI的优势，并逐渐将人类从操作循环中移除，以便我们能够以机器速度做出响应，”Hultquist告诉《The Register》。

经济利益巨大。IBM的2024年数据泄露报告显示，知识产权盗窃现在使组织每记录损失173美元，专注于IP的泄露事件同比增长了27%。AI模型权重是这一地下经济中价值最高的目标——单个被盗的前沿模型在黑市上可能价值数亿美元。

Hultquist表示，Google已关闭与这些活动相关的账户，但攻击仍“来自全球各地”。随着AI变得日益强大，且越来越多的公司依赖它，预计这场数字淘金热将进一步加剧。问题不在于是否会有更多攻击，而在于防御者能否跟上步伐。