谷歌捕获了首个借助人工智能辅助构建的零日漏洞

谷歌威胁情报小组周日表示，他们捕获了他们认为是第一个借助人工智能模型构建的零日漏洞。.

据谷歌在其云博客上发布的一份报告显示，一个犯罪黑客组织编写了一个Python脚本，用于绕过一款开源Web管理工具中的双因素身份验证（2FA）。谷歌已与该工具的供应商合作，在攻击大规模发生之前将其阻止。.

谷歌通过代码模式将该漏洞与人工智能联系起来。

谷歌并没有将责任归咎于其自身的Gemini模型。分析人士指出，代码中的结构模式tron暗示了人工智能的参与。.

“根据这些攻击的结构和内容，我们高度确信攻击者可能利用了人工智能模型来支持发现和利用此漏洞。 写道”

该 Python 脚本具有异常详细的教育性文档字符串、虚假的 CVSS 严重性评分以及大型语言模型输出的典型格式。.

其中包括结构化的帮助菜单和以教科书风格编写的清晰的颜色类。.

谷歌尚未公布黑客组织的名称或被攻击的具体工具。.

国家支持的黑客利用人工智能模型进行漏洞研究

谷歌的报告不仅仅关注了这一个零日漏洞。.

谷歌威胁情报小组表示，与中国和朝鲜有关联的黑客对使用人工智能来查找和利用软件漏洞表现出了tron的兴趣。.

一个名为UNC2814的中国网络威胁组织攻击电信和政府目标。该组织使用了一种谷歌称之为“基于身份的越狱”的技术。.

该团队指示 人工智能模型 扮演高级安全审计员的角色，然后指示它分析 TP-Link 和 Odette 文件传输协议实现中的嵌入式设备固件，以查找远程代码执行漏洞。

该组织启动了一个人工智能模型，使其担任高级安全审计员，然后指示该模型搜索 TP-Link 嵌入式设备固件和 Odette 文件传输协议实现中的远程代码执行漏洞。.

另一个与中国有关联的组织使用名为 Strix 和 Hexstrike 的工具攻击了一家日本科技公司和一家东亚大型网络安全公司。.

朝鲜黑客组织 APT45 采取了不同的策略。它发送了数千条重复的提示信息，以递归分析已知的 CVE 条目并验证概念验证漏洞利用程序。.

谷歌表示，这种方法产生了“更强大的攻击手段，如果没有人工智能的帮助，这些手段将难以管理”。

人工智能催生了新型恶意软件和规避手段

谷歌的报告涵盖了漏洞研究之外的其他人工智能威胁。.

疑似俄罗斯黑客利用人工智能技术编写并构建了多态恶意软件和混淆网络。这种恶意软件能够加速开发周期，并帮助他们逃避检测。.

谷歌还警告了一种名为 PROMPTSPY 的恶意软件，称其代表着攻击方式向自主化转变。这种恶意软件利用人工智能模型解读系统状态，并动态生成指令来操控受害者环境。攻击者甚至可以将操作决策权交给模型本身。.

如今，攻击者通过专门的中间件和自动化账户注册系统，获取匿名化的高级语言模型访问权限。这些服务使黑客能够利用试用账户为其活动提供资金，从而大规模绕过使用限制。.

一个名为 TeamPCP（又名 UNC6780）的黑客组织（谷歌已将其 trac到该组织）开始以人工智能软件依赖项为攻击目标，以此作为入侵更广泛网络的入口。他们利用被入侵的人工智能工具作为跳板，部署勒索软件并进行敲诈勒索。.

谷歌表示，它会将自己的 人工智能工具 人工智能代理dent；以及 CodeMender，它利用 Gemini 的推理能力自动matic漏洞。

谷歌还表示，会禁用被发现滥用 Gemini 进行恶意活动的帐户。.