微软和OpenAI的一项突破性发现揭示了不断演变的网络安全格局中一个令人担忧的趋势：国家行为体正在将人工智能武器化，用于网络攻击。这两家科技巨头的合作揭露了与全球主要强权结盟的知名威胁行为者利用大型语言模型（LLM）的行径，这标志着网络安全领域的一项重大进展。.
利用 OpenAI 的国家级 APT 攻击
专家对人工智能驱动型网络威胁的现状及其潜在未来影响的见解，揭示了网络安全领域不断演变的格局。这些威胁行为者与中国、伊朗、朝鲜和俄罗斯有关联，他们利用人工智能进行各种活动，从情报收集到网络钓鱼攻击和代码生成。一些知名组织，例如 Fancy Bear、Charcoal Typhoon 和 Crimson Sandstorm，都在利用 OpenAI 技术进行恶意活动。.
Fancy Bear，又名 Forest Blizzard，因与俄罗斯联邦武装力量总参谋部情报总局 (GRU) 有关联而臭名昭著，它将 LLM 应用于脚本编写任务、情报收集和卫星通信协议研究等行动中，这在乌克兰冲突中尤为重要。.
中国官方组织的“炭火台风”和“鲑鱼台风”展现了其在人工智能驱动的活动方面的熟练能力，例如信息收集、脚本生成和社会工程。同样，伊朗的“绯红沙暴”也利用OpenAI开发欺骗性网络钓鱼材料，并通过人工智能生成的代码片段简化操作流程。.
据称由金正恩政权开发的“翡翠冰雹”（Emerald Sleet）网络犯罪集团，不仅能够执行基础脚本编写和网络钓鱼内容生成任务，还能利用低级机器学习（LLM）技术进行漏洞研究和收集国防相关情报。这些案例凸显了国家级威胁行为体在网络行动中对人工智能的多样化和不断演进的应用。.
人工智能武器化——目前人工智能在网络安全领域的影响仍然有限
尽管威胁行为者利用了低级威胁模型（LLM），但专家强调，人工智能在网络攻击中的影响仍然有限，其主要作用是增强现有能力，而非彻底改变攻击方式。然而，人们对人工智能驱动的攻击的可扩展性和适应性感到担忧，因此呼吁继续保持警惕并遵守网络安全最佳实践。.
AppOmni首席人工智能工程师兼安全研究员约瑟夫·萨克强调，尽管人工智能为攻击者提供了优势，但其变革性潜力尚未得到充分发挥。萨克指出，精通软件开发的威胁行为者正在利用低级机器学习（LLM）加速恶意代码的创建，从而提高其行动效率。然而，他强调网络威胁的本质并未发生显著变化，人工智能主要促进的是攻击方法的渐进式改进，而非突破性创新。.
萨克强调，人工智能驱动的攻击规模和范围可能会扩大，而语言学习模型（LLM）在语言翻译和代码转换方面的多功能性为此提供了便利。尽管目前人工智能驱动的网络攻击可能没有展现出什么新颖的技术，但萨克警告说，基于人工智能的威胁载体可能会出现未被察觉的进步。因此，他提倡采取积极主动的网络安全策略，强调持续监控和强有力的防御措施对于缓解不断演变的威胁至关重要。.
将人工智能融入国家网络行动，对网络安全利益相关者而言既是挑战也是机遇。尽管目前的观察表明，人工智能增强型攻击尚未完全发挥其潜力，但技术的动态特性要求我们保持持续的警惕并不断调整应对。随着网络安全形势的演变，问题依然存在：组织如何才能有效应对人工智能与网络战的交汇点，从而防范新兴威胁？
