英国国家网络安全中心 (NCSC) 发出警告，称人工智能驱动的恶意软件可能在 2025 年前成为重大威胁。NCSC 是英国政府通信总部 (GCHQ) 下属机构，其在近期发布的一份报告中指出，具备强大能力的国家行为体“极有可能”利用人工智能生成能够绕过现有安全过滤器的恶意软件。这一发展可能开启网络威胁的新时代，影响范围涵盖从易受攻击的设备发现到数据分析，甚至包括社会工程攻击。.
人工智能生成的恶意软件即将问世
NCSC的报告强调，人工智能有可能生成能够绕过现有安全措施的恶意软件，但这需要高质量的攻击数据进行训练。该机构认为，一些能力强大的国家机构可能拥有足够庞大的恶意软件库，可以有效地训练用于此目的的人工智能模型。虽然最先进的人工智能驱动型网络攻击预计将在2026年或之后出现，但早期采用生成式人工智能工具的攻击者很可能是最有能力的。.
人工智能对易受攻击设备和数据分析的影响
NCSC预测，人工智能将使攻击者更容易发现易受攻击的设备，从而缩短防御者在漏洞被利用前进行修补的时间。此外，人工智能还将增强实时数据分析能力，使攻击者能够迅速dent有价值的文件，提高破坏、勒索和间谍活动的效率。.
报告指出，专业知识、设备、财力以及获取高质量数据对于在网络行动中运用先进人工智能至关重要。能力强大的国家行为体最能利用人工智能的潜力发动复杂的网络攻击。然而，即使是技能和资源有限的攻击者，预计也将在未来四年内受益于人工智能的进步。.
人工智能赋能网络犯罪分子
在网络犯罪的低端领域，预计采用社交工程攻击的网络犯罪分子会利用消费级生成式人工智能工具，例如 ChatGPT、Google Bard 和 Microsoft Copilot。这可能导致更具说服力且更精准的网络钓鱼攻击。此外，勒索软件团伙可能会利用人工智能进行数据分析，从而更容易dent识别有价值的数据，进而更有效地进行数据勒索。.
网络安全从业人员面临的挑战
英国国家网络安全中心 (NCSC) 预测，未来两年内，人工智能驱动的网络攻击数量和影响将持续增长，加剧网络安全从业人员面临的挑战。这些从业人员目前已在应对不断演变的威胁，而人工智能预计将在塑造威胁格局方面发挥重要作用。.
英国国家网络安全中心（NCSC）正密切关注人工智能在网络威胁领域的发展。该机构将于五月举办年度网络安全会议（CYBERUK），会议将重点讨论新兴技术对国家安全构成的巨大威胁。即将卸任的首席执行官林迪·卡梅伦强调，在负责任地利用人工智能潜力的同时，也需要管控其风险。.
全球应对人工智能安全风险的努力
英国国家网络安全中心 (NCSC) 发出警告之前，英国刚刚举行了首届人工智能安全峰会，该峰会促成了《布莱切利宣言》的发表——这是一项旨在管理人工智能风险的全球性倡议。作为该倡议的一部分，主要的人工智能开发商承诺与各国政府共享代码，以确保负责任的人工智能开发。.
虽然人工智能测试计划朝着正确的方向迈出了一步，但它不具有法律约束力，也缺乏某些国家的支持。这引发了人们对其在应对日益增长的人工智能驱动型网络攻击威胁方面的有效性的质疑。.
英国国家网络安全中心（NCSC）的警告凸显了网络空间威胁形势的不断演变，人工智能增强型恶意软件即将出现。人工智能有可能绕过现有的安全措施，对网络安全从业人员、政府和组织都构成了挑战。随着世界各国努力应对人工智能在网络威胁方面的影响，保持警惕和国际合作对于领先于新兴威胁至关重要。.
