朝鲜、伊朗、中国等国的某些组织因涉嫌在恶意软件和恶意活动中使用人工智能而被列入黑名单

谷歌威胁分析小组 (GTAG) 的一份新报告显示，来自朝鲜、伊朗和中国的国家支持的黑客正在积极试验和优化使用人工智能 (AI) 工具的网络攻击，而谷歌的 Gemini 就是其中之一。. 

谷歌表示，他们观察到多个与国家有关联的组织利用其大型语言模型进行侦察、社会工程、恶意软件开发，并增强“其行动的各个阶段，从侦察和网络钓鱼诱饵的创建到命令与控制 (C2) 开发和数据窃取”。

该报告 发现了新型且复杂的AI攻击的证据。报告警告称，生成式AI正在降低恶意操作的技术门槛，因为它能帮助攻击者更快、更精准地实施攻击。

该报告建立在 微软 和 OpenAI，这两家公司披露了这三个国家支持的机构进行的类似实验。

此外，Claude AI 背后的公司 Anthropic 发布了一份报告，介绍了该公司如何检测和打击利用人工智能进行攻击， 朝鲜有关联的组织 报告中重点提及了

朝鲜国家行为体转向人工智能

在最新的威胁情报更新中，谷歌详细介绍了一个名为 TEMP.Zagros（又名 MuddyWater）的伊朗组织如何使用 Gemini 生成和调试伪装成学术研究的恶意代码，其最终目标是开发定制恶意软件。.

这样做无意中暴露了关键的运营细节，使谷歌得以破坏其部分基础设施。.

有中国关联的攻击者被发现利用 Gemini 来改进钓鱼诱饵、对目标网络进行侦察，并在入侵系统后研究横向移动技术。在某些情况下，他们滥用 Gemini 来探索不熟悉的环境，例如云基础设施、Kubernetes 和 vSphere，这表明他们试图扩大自身的技术影响力。.

朝鲜黑客正在探索利用人工智能工具来增强侦察和网络钓鱼活动。一个以利用社会工程手段进行加密货币盗窃而闻名的朝鲜威胁组织也曾试图使用Gemini编写代码来窃取加密货币。

谷歌成功缓解了这些攻击，并关闭了涉事账户。.

网络防御的新前沿

人类进化研究所于2025年8月发布的报告 提供了国家关联行为体滥用人工智能的证据。该公司发现，朝鲜特工曾利用其Claude模型伪装成远程软件开发人员寻找工作。

据报道，他们利用 Claude 生成简历、代码示例和技术面试答案，以获得海外自由职业trac。.

虽然 Anthropic 的研究结果揭露了利用人工智能获取工作的欺诈行为，这本应导致招聘机构遭受更大规模的黑客攻击，但它也与谷歌的结论一致，即人工智能工具正被不法分子matic地测试，以获取额外优势。.

这些发现给全球网络安全界带来了新的难题。报告显示，人工智能模型和应用程序之所以成为强大的生产力工具，正是因为它们具备某些特性，而这些特性也被用来制造威力强大的危害工具。随着技术的不断进步，攻击者也会随之调整策略，使其攻击手段更加复杂。.

各国政府和科技公司已经开始做出反应，所有利益相关者继续合作以减轻这些行动的影响将是未来的发展方向。.