生成式AI在网络安全中的应用：一把双刃剑

在网络安全领域，采用生成式人工智能（AI）已成为从业者在持续对抗网络威胁中的关键工具。虽然这项创新技术带来了显著的好处，但也带来了新的挑战，因为恶意行为者越来越多地利用其力量来增强攻击。

美国国家安全局（NSA）网络安全总监罗布·乔伊斯（Rob Joyce）最近强调，生成式人工智能在识别和对抗恶意活动方面带来了显著优势。然而，他也承认了网络犯罪分子滥用该技术所带来的日益增长的担忧。

向善的力量：加强网络安全

在纽约福特汉姆大学举行的一次活动中，罗布·乔伊斯热情地谈到了生成式人工智能在加强网络安全工作方面的积极影响。他表示，生成式人工智能“让我们更擅长发现恶意活动”。这项技术赋予安全人员创新的工具和方法，以更有效地检测和缓解网络威胁。

生成式人工智能在网络安全中的一个关键优势是，它能够对抗潜伏在网络中、通过利用漏洞伪装成安全账户的威胁行为者。这些伪装账户表现出异常的行为模式，手动识别起来颇具挑战。生成式人工智能以及大型语言模型（LLM）协助网络安全团队聚合和分析这些可疑活动，从而更快地揭露恶意意图。

日益增长的担忧：被网络犯罪分子滥用

虽然生成式人工智能在增强网络安全方面前景广阔，但由于被网络犯罪分子滥用，也引发了警报。在过去一年中，恶意行为者越来越多地使用生成式人工智能工具来放大欺诈活动和骗局。这些先进技术使他们能够发起高度个性化且极具破坏性的社会工程学攻击。

知名网络安全公司曼迪安特（Mandiant）去年发出警告，强调生成式人工智能可能赋予威胁行为者以前所未有的复杂性发动新一波社会工程学攻击的能力。 

这些由人工智能支持的钓鱼攻击可以经过精细调整，以欺骗最警惕的用户，对个人和组织构成重大威胁。2023年，各种安全专家都表达了类似的担忧。

此外，Darktrace进行的研究引发了人们对AI驱动的网络钓鱼攻击的担忧。人们担心黑客可以不断利用生成式AI来完善他们的技术，使用户越来越难以辨别合法通信和恶意意图。

双刃剑：权衡影响

罗布·乔伊斯承认，对生成式人工智能被用于网络犯罪的担忧是合理的。然而，他也强调，国家安全机构在有效利用这些工具方面取得了重大进展。他指出，网络安全专家利用生成式人工智能来对抗威胁和保护关键资产，其程度不亚于恶意行为者利用它来实现其邪恶目的。

乔伊斯警告不要将生成式人工智能视为解决所有网络安全挑战的灵丹妙药，并表示它“不是那种能让无能者变得有能力的超级工具”。尽管如此，他强调它增强了使用者的能力，使他们在网络防御和进攻中更加有效，但也可能更具危险性。