人工智能生成的恶意软件构成日益增长的威胁，英国国家网络安全中心发出警告

英国国家网络安全中心（NCSC）发出警告，称人工智能驱动的恶意软件到 2025 年可能成为重大威胁。在最近的一份报告中，NCSC（隶属于政府通信总部 GCHQ 的机构）表示，存在“现实可能性”，即具备高度能力的大国行为体可能利用人工智能生成能够规避当前安全过滤器的恶意软件。这一发展可能开启网络威胁的新时代，影响从易受攻击设备发现到数据分析，甚至社会工程学攻击等各个方面。

人工智能生成的恶意软件即将到来

NCSC 的报告指出，人工智能有可能产生能够绕过现有安全措施的恶意软件，但这需要高质量的漏洞利用数据进行训练。该机构认为，一些具备高度能力的大国实体可能拥有足够广泛的恶意软件库，以有效地训练人工智能模型用于此目的。虽然最先进的人工智能驱动网络攻击预计将在 2026 年或之后出现，但生成式人工智能工具的早期采用者很可能成为最具能力的攻击者。

人工智能对易受攻击设备和数据分析的影响

NCSC 预测，人工智能将使攻击者更容易发现易受攻击的设备，从而减少防御者在被利用前进行修补的时间。此外，人工智能将增强实时数据分析能力，使攻击者能够快速识别有价值的文件，从而提高破坏、勒索和间谍活动的效率。

报告指出，专业知识、设备、财务资源以及获取高质量数据的途径对于在网络行动中使用先进人工智能至关重要。具备高度能力的大国行为体最有可能利用人工智能在复杂网络攻击中发挥潜力。然而，即使技能有限的攻击者，预计在未来四年内也能从人工智能的进步中受益。

人工智能赋能网络犯罪分子

在较低端层面，采用社会工程学攻击的网络犯罪分子预计将利用消费级生成式人工智能工具，如 ChatGPT、Google Bard 和 Microsoft Copilot。这可能导致更具说服力和本地化的网络钓鱼尝试。此外，勒索软件团伙可能利用人工智能进行数据分析，从而通过更容易识别有价值的数据来提高数据勒索的有效性。

网络安全从业者面临的挑战

NCSC 预测，在未来两年内，人工智能驱动的网络攻击在数量和影响方面都将增加，加剧网络安全从业者面临的挑战。这些从业者已经在应对不断演变的威胁，而人工智能预计将在塑造威胁格局方面发挥重要作用。

NCSC 密切监控人工智能在网络威胁中的发展。该机构将于 5 月举行的年度 CYBERUK 会议将重点关注新兴技术对国家安全的巨大威胁。即将离任的首席执行官 Lindy Cameron 强调，需要在利用人工智能潜力进行负责任发展的同时，管理其风险。

全球应对人工智能安全风险的举措

NCSC 的警告紧随在英国举行的首届人工智能安全峰会之后，该峰会促成了《布莱切利宣言》——一项管理人工智能风险的全球倡议。作为这一努力的一部分，主要人工智能开发商承诺与政府共享代码，以确保负责任的人工智能开发。

虽然人工智能测试计划是朝着正确方向迈出的一步，但它不具有法律约束力，且缺乏某些国家的支持。这引发了人们对它在应对日益增长的人工智能驱动网络攻击威胁方面有效性的质疑。

NCSC 的警告强调了网络空间中不断演变的威胁格局，人工智能增强的恶意软件即将到来。由于有可能绕过当前的安全措施，人工智能给网络安全从业者、政府和组织都带来了挑战。随着世界努力应对人工智能在网络威胁中的影响，警惕和国际合作对于应对新兴威胁至关重要。