随着网络安全形势的演变，普华永道的一份报告显示，70%的科技和商业领袖计划在未来12个月内采用生成式人工智能进行网络防御。这一转变是为了应对日益复杂的网络威胁，而生成式人工智能大规模生成逼真商业电子邮件的能力正是推动这一趋势的因素。.
提高网络安全警示
数字领域瞬息万变，网络攻击者的策略也随之不断演变。传统的网络安全系统正面临日益严峻的挑战，这主要是由于生成式人工智能（Generative AI）能力的不断提升。普华永道发布的《2024年数字信任洞察报告》显示，70%的科技和商业领袖预计将生成式人工智能作为其网络防御战略的关键组成部分。.
这项进展旨在缓解人们对传统网络安全方法日益增长的担忧，因为生成式人工智能大规模生成复杂商业电子邮件的能力加剧了网络威胁的风险。业内专家普遍认为，52%的人预计生成式人工智能将在未来一年内引发灾难性的网络攻击。.
生成式人工智能的双重特性
生成式人工智能虽然有望加强网络防御，但也为网络攻击者提供了强大的武器库。攻击者可以利用这项技术的功能，创建诱人的电子邮件和逼真的深度伪造内容，包括视频、录音和图像，通过网络钓鱼等手段攻击毫无戒心的个人。.
SlashNext发布的一份实时威胁情报报告指出，网络犯罪分子是大型语言模型（LLM）聊天机器人最频繁的用户之一。这些恶意行为者利用LLM聊天机器人精心策划商业电子邮件入侵（BEC）攻击，并执行精准的网络钓鱼活动。自OpenAI于2022年底推出ChatGPT以来，恶意网络钓鱼邮件的数量激增了1265%。.
此外，生成式人工智能的适应性使得恶意行为者能够轻松修改已有的攻击代码，使其略有不同，从而逃避检测。生成式人工智能的普及已成为暗网关注的焦点，今年以来相关讨论层出不穷。.
不断演变的威胁和自我演变的恶意软件
生成式人工智能在网络攻击中最令人担忧的方面之一是其能够自我进化的恶意软件变种。这些变种会生成针对特定目标的变体，采用独特的技术、有效载荷和多态代码。这种适应性能够有效地绕过现有安全措施的检测。在这个高风险的网络安全领域，只有最敏捷、适应性最强的行动才能在应对这些不断演变的威胁时保持优势。.
加强网络防御
为了加强防御，抵御日益增长的由生成式人工智能驱动的网络攻击威胁，业内专家强调以下策略：
1. 确保整个人工智能流程的安全
对用于训练和微调人工智能模型的数据进行安全和加密至关重要。在模型开发过程中持续扫描漏洞、恶意软件和数据损坏情况，dent是加强防御、抵御潜在攻击的关键步骤。.
2. 董事会层面的协作讨论
来自网络安全、技术、数据和运营部门的领导者应齐聚一堂，进行董事会级别的讨论。这些讨论应重点关注不断演变的风险，特别是如何利用生成式人工智能来泄露敏感数据并允许未经授权访问系统。.
3. 创新型探测与防御
虽然现有的安全控制措施可以扩展到保护支持人工智能系统的基础设施和数据，但至关重要的是要了解专门用于检测和阻止对抗性人工智能攻击的创新方法的必要性。采取积极主动的措施对于应对源自生成式人工智能的日益增长的网络威胁至关重要。.
随着生成式人工智能既成为防御者的利器，也成为网络攻击者的强大武器，各组织必须谨慎权衡。在加强网络安全措施的同时，以合乎道德且负责任的方式运用这项技术至关重要。提高网络安全意识、保障人工智能流程安全以及投资尖端防御技术，是成功应对不断演变的网络安全形势的关键。在瞬息万变的数字化世界中，这些策略对于保护敏感数据和维护数字领域的信任至关重要。.
