生成式人工智能如何放大超逼真网络钓鱼攻击

生成式AI，以ChatGPT为代表，已成为技术格局中的变革者，吸引了全球各地的行业。虽然其变革潜力备受赞誉，但对其黑暗应用的担忧日益上升。近期由生成式AI的语言能力推动的网络钓鱼攻击激增，对网络安全构成了重大威胁。Darktrace的突破性研究揭示了威胁行为者不断变化的战术，暴露了传统防御机制中的漏洞。

生成式AI时代的电子邮件网络钓鱼

随着ChatGPT的普及，电子邮件网络钓鱼攻击的动态发生了明显的转变。Darktrace的全面分析表明，虽然攻击总数趋于平稳，但采用的战术变得更加复杂。传统网络钓鱼方法的减少被“新型社会工程学攻击”激增135%所抵消，这与生成式AI的广泛采用相吻合。

特别令人担忧的是，威胁行为者大规模制作令人信服、个性化电子邮件的能力不断增强。这种情况类似于收到来自可信来源（可能是主管）的电子邮件，其语言、标点和语气无可挑剔——这归功于生成式AI。这一趋势揭示了令人不安的可能性：这些先进工具正成为网络罪犯的温床，使他们能够以前所未有的效率部署针对性攻击。

生成式AI如何加剧挑战

在更近的时间段内，Darktrace在5月至7月期间的观察揭示了网络钓鱼策略的微妙转变。攻击者现在转向冒充内部IT团队，这与以前模仿高级管理人员的趋势不同。VIP冒充减少了，但电子邮件账户接管尝试激增了52%，内部IT团队冒充增加了19%。

这种战术的转变反映了威胁行为者的适应性，他们迅速利用新兴趋势。随着员工在检测高管冒充方面变得更加精明，攻击者利用生成式AI模拟来自IT部门的通信，这是一个以前被认为不太容易受到冒充的领域。逼真的语音深度伪造和语言复杂的电子邮件的增加表明，攻击者和防御者之间即将展开一场军备竞赛。

AI如何防御生成式威胁

虽然生成式AI放大了网络威胁的风险，但它也有潜力加强网络安全防御。防御性AI与人工网络安全团队集成时，可以作为抵御不断演变威胁的堡垒。通过利用AI理解业务细微差别和员工行为，网络安全团队可以辨别出表明潜在攻击的细微异常。

关键在于利用AI不仅作为潜在的威胁向量，而是作为网络安全战场上的战略盟友。能够适应、学习并理解组织通信模式复杂性的防御性AI，可以智胜威胁行为者使用的生成式AI。这证明了在持续的网络安全战斗中需要以人为本的方法——在这场战斗中，AI如果被明智地利用，将成为保护数字领域不可或缺的资源。

随着生成式AI的持续崛起，其带来的机遇和危险都变得清晰可见。网络钓鱼攻击格局的演变凸显了组织加强网络安全措施的紧迫性。虽然生成式AI赋予了威胁行为者力量，但防御性AI与人类专业知识的明智结合提供了抵御网络威胁的强大防御。在技术进步与安全关切的微妙舞蹈中，责任在于人类负责任地利用AI，确保一个创新与受保护的数字领域和谐共存的未来。