AI 使网络骗局更加可信，比以往任何时候都更难检测

网络犯罪分子正在利用人工智能实施更复杂的计划。他们瞄准从退休储蓄到公司机密的一切，方法变得越来越难以发现。

同样用于为在线购物者定制广告的技术，现在被不法分子用来收集个人细节并快速启动定制骗局。真的很快。

Anthropic、OpenAI 和 Google 等主要 AI 公司报告称，犯罪分子正在利用他们的平台策划复杂的钓鱼操作、开发有害软件并执行各种数字攻击。安全专家警告称，犯罪分子还在制作公司领导的伪造音频和视频片段，以欺骗员工泄露敏感信息。

企业和政府办公室可能很快将面临由 AI 驱动的系统群，这些系统可以发现计算机网络中的弱点，然后几乎无需人工帮助即可计划和执行攻击。

该技术正在改变犯罪分子在线运营的方式。Alice Marwick 是独立技术研究组织 Data & Society 的研究负责人。她告诉《华尔街日报》，最大的变化涉及规模和范围。“真正的变化是范围和规模。骗局更大、更有针对性、更具说服力。”

Brian Singer 是卡内基梅隆大学的博士生。他研究大型语言模型在网络攻击和防御中的使用。他的估计？全球垃圾邮件和钓鱼信息中有一半到四分之三现在来自 AI 系统。

攻击本身变得更加可信。训练有素的公司通信的 AI 系统可以生成数千条听起来自然且符合公司风格的邮件。它们模仿高管的写作方式。它们提及公共记录中发现的最新新闻。

该技术还有助于海外骗子隐藏曾经使其尝试显而易见的语言错误。犯罪分子可以通过 伪造视频和复制的声音 冒充受害者。他们使用相同的虚假身份同时针对多人。

John Hultquist 是 Google 威胁情报集团的首席分析师。他将主要变化描述为“规模化的可信度”。

不法分子在挑选目标方面也变得更好。他们使用 AI 浏览社交媒体，寻找正在经历重大生活困难的人。离婚、家人去世、失业，以及可能使某人更容易受到浪漫骗局、投资欺诈或虚假工作机会影响的情况。

暗网市场降低入门门槛

网络犯罪的入门门槛已经降低。地下市场 现在 以每月低至 90 美元的价格出售或出租 AI 工具用于犯罪工作。Nicolas Christin 领导卡内基梅隆大学的软件和社会系统部门。

他说，这些平台有不同的定价水平和客户支持。“开发人员出售具有分层定价和客户支持的攻击平台订阅。”

这些服务被称为 WormGPT、FraudGPT 和 DarkGPT。它们可以创建有害软件和钓鱼活动。其中一些甚至包括关于黑客技术的教学材料。

Darktrace 的安全和 AI 战略副总裁 Margaret Cunningham 表示，这很简单。“你不需要知道如何编码，只需要知道在哪里找到工具。”

最近有一个称为“氛围编码”或“氛围黑客”的发展。它可能让 aspiring 犯罪分子使用 AI 制作自己的恶意程序，而不是从地下来源购买。Anthropic 今年早些时候披露 它已阻止了几次“技术技能有限的犯罪分子”使用其 Claude AI 创建勒索软件的尝试。

犯罪活动本身正在发生变化。据专家称，网络犯罪多年来一直像商业市场一样运作。典型的勒索软件操作涉及不同的群体。访问经纪人入侵公司网络并出售入口。入侵团队在系统中移动并窃取数据。以及勒索软件即服务提供商，他们释放恶意软件、处理谈判并分配资金。

速度与自动化重塑犯罪网络

AI 增加了 该系统的速度、规模和可用性。以前由具备技术知识的人完成的工作现在可以自动运行。这使得这些群体能够以更少的人员、更低的风险和更高的利润运营。“将其视为工业化的下一层。AI 增加了吞吐量，而无需更多熟练劳动力，”Christin 解释道。

AI能否完全自主发动攻击？尚未至此。专家将此情况比作全自动驾驶汽车的推进过程。目前95%的目标已实现，但让汽车能够随时随地自主驾驶的最后部分仍遥不可及。

研究人员正在实验室环境中测试 AI 的黑客能力。卡内基梅隆大学的一个团队在 Anthropic 的支持下，今年早些时候 使用 AI 重现了著名的 Equifax 数据泄露事件。Singer 领导了卡内基梅隆大学 CyLab 安全和隐私研究所的工作。他称之为“一大步”。

犯罪分子利用AI从事有害活动。但AI公司表示，同样的工具可以帮助组织加强数字防御。

Anthropic和OpenAI正在构建能够持续审查软件代码以定位犯罪分子可能利用的弱点的AI系统。不过，任何修复措施仍需人工批准。斯坦福研究人员开发的一款最新AI程序在搜索网络安全问题时的表现优于部分人类测试人员。

即使AI也无法阻止所有入侵。因此，组织必须专注于构建在遭受攻击时仍能保持运行的坚固网络，Hultquist表示。