武器化AI是否成为网络战的新常态？来自微软和OpenAI的见解

在揭示不断演变的网络安全格局的突破性发现中，微软和OpenAI发现了一个令人担忧的趋势：国家正在将AI武器化用于网络攻击。这些科技巨头的合作暴露了主要威胁行为者（与主要全球大国结盟）利用大型语言模型（LLM），这在网络安全领域标志着重大发展。

使用OpenAI的国家APT组织

关于AI驱动网络威胁当前状态和潜在未来影响的专家见解，揭示了网络安全格局的演变。这些与中国的威胁行为者、伊朗、朝鲜和俄罗斯有关，利用AI进行各种目的，从情报收集到网络钓鱼攻击和代码生成。著名的组织如Fancy Bear、Charcoal Typhoon和Crimson Sandstorm是利用OpenAI技术进行恶意活动的组织之一。

Fancy Bear，又称Forest Blizzard，以与俄罗斯联邦武装力量总参谋部主管理局（GRU）的关联而闻名，将LLM纳入操作中以进行脚本任务、情报收集和卫星通信协议研究，这在乌克兰冲突中尤其相关。

中国国家级行为体“木炭台风”（Charcoal Typhoon）和“鲑鱼台风”（Salmon Typhoon）展示了其在人工智能驱动活动方面的熟练技能，包括信息收集、脚本生成和社会工程。同样，伊朗的“深红沙尘暴”（Crimson Sandstorm）利用 OpenAI 开发欺骗性钓鱼材料，并通过 AI 生成的代码片段简化运营。

归因于金正恩政权的“翡翠冰雹”（Emerald Sleet）从事基本的脚本任务和钓鱼内容生成，同时利用大型语言模型（LLM）研究漏洞并收集国防相关情报。这些案例凸显了国家行为体在网络行动中对人工智能应用的多样性和演变趋势。

武器化人工智能——目前人工智能对网络安全的影响仍然有限

尽管威胁行为者利用大型语言模型，但专家强调，人工智能在网络攻击中的影响仍然有限，主要作用是增强现有能力，而非彻底改变攻击方法。然而，人们担心人工智能驱动攻击的可扩展性和适应性，因此呼吁保持持续警惕并遵守网络安全最佳实践。

AppOmni 的首席人工智能工程师兼安全研究员 Joseph Thacker 强调，虽然人工智能为攻击者提供了优势，但其变革潜力尚未完全实现。Thacker 指出，具备软件开发能力的威胁行为者正利用大型语言模型加速恶意代码的创建，从而提高运营效率。然而，他强调网络威胁的本质并未发生根本性变化，人工智能主要促进的是渐进式改进，而非攻击方法的突破性创新。

Thacker 强调，借助大型语言模型在语言翻译和代码转换方面的多功能性，人工智能驱动的攻击有望在规模和范围上扩大。虽然目前的人工智能驱动网络行动可能未展现出新颖的技术，但 Thacker 警告称，基于人工智能的威胁向量可能存在未被发现的进展。因此，他倡导采取主动的网络安全方法，强调持续监控和强大的防御措施对于缓解不断演变的威胁的重要性。

将AI整合到国家网络行动中，为网络安全利益相关者带来了挑战和机遇。虽然目前的观察表明，AI增强的攻击尚未发挥其全部潜力，但技术的动态性质要求持续警惕和适应。随着网络安全格局的演变，问题依然存在：组织如何有效地在AI和网络战的交叉点导航，以防范新兴威胁？