人工智能的阴暗面：ChatGPT 和生成式人工智能工具如何助长网络攻击

最近，OpenAI 开发的基于人工智能的聊天机器人 ChatGPT 的强大功能在科技界引起了广泛关注。这款多功能工具因其能够生成具有说服力的文本甚至功能性代码而备受赞誉。然而，随着技术的进步，恶意攻击者的手段也在不断变化，ChatGPT 的强大功能并非绝对安全，也可能被网络攻击者利用。.

像 ChatGPT 这样的生成式人工智能工具已成为一把双刃剑。它们赋予用户强大的功能，同时也为恶意行为者提供了构建逼真叙事和代码（包括社会工程攻击）的有力手段。这引发了人们对这类新型工具对网络攻击（尤其是涉及社会工程的攻击）影响的担忧。.

完美社会工程的时代

过去，措辞不当或matic错误的电子邮件往往是网络钓鱼的典型特征。网络安全意识培训dent识别此类异常情况，以挫败潜在威胁。然而，ChatGPT 的出现改变了这一切。即使英语水平有限的人现在也能用完美的英语创建无可挑剔、令人信服的信息，这使得识别社交工程攻击变得越来越困难。.

OpenAI 在 ChatGPT 中实施了一些安全措施来防止滥用，但这些屏障并非不可逾越，尤其是在社交工程攻击方面。恶意攻击者可以指示 ChatGPT 生成诈骗邮件，然后将恶意链接或请求附加到邮件中发送出去。该过程效率极高，ChatGPT 能够像专业人士一样快速生成邮件，正如我们根据请求生成的示例邮件所示。.

Darktrac的研究结果以及基于人工智能的社会工程攻击的兴起

网络安全公司 Darktrac报告称，基于人工智能的社交工程攻击激增，并将此趋势归咎于 ChatGPT 和类似工具。这些攻击正变得越来越复杂，钓鱼邮件篇幅更长、标点符号更规范、更具迷惑性。ChatGPT 的默认语气与企业沟通类似，使得识别恶意信息更加困难。.

犯罪学习曲线

网络犯罪分子学习能力极强。有报告显示，暗网论坛上现在充斥着关于如何利用 ChatGPT 进行社交工程攻击的讨论，一些身处未受支持国家的犯罪分子也找到了绕过限制并利用其强大功能的方法。ChatGPT 使攻击者能够生成大量独特的消息，从而绕过检测重复内容的垃圾邮件过滤器。此外，它还有助于创建多态恶意软件，使检测更加困难。.

虽然 ChatGPT 主要专注于书面沟通，但其他人工智能工具可以生成逼真的语音，模仿特定人物的声音。这种语音模仿能力使得拨打电话能够以假乱真，逼真地模仿知名人士的声音。这种双管齐下的方法——先发送可信的电子邮件，再拨打语音电话——为社交工程攻击增加了一层欺骗性。.

利用求职者和虚假 ChatGPT 工具

ChatGPT的功能不仅限于撰写电子邮件；它还能大规模生成求职信和简历，从而被用于诈骗求职者。此外，诈骗分子还利用ChatGPT的热潮，创建虚假的聊天机器人网站，声称这些网站基于OpenAI的模型。实际上，这些网站的目的是窃取钱财和个人数据。.

防范人工智能攻击

随着人工智能攻击日益普遍，各组织必须适应这种不断变化的威胁形势：

1. 将人工智能生成的内容融入网络钓鱼模拟中，使员工熟悉人工智能生成的沟通方式。.

2. 将生成式人工智能意识培训融入网络安全计划，重点介绍 ChatGPT 和类似工具可能被利用的方式。.

3. 采用基于人工智能的网络安全工具，利用机器学习和自然语言处理来检测威胁并标记可疑通信以供人工审核。.

4. 利用基于 ChatGPT 的工具来dent由生成式 AI 编写的电子邮件，从而增加一层额外的安全保障。.

5. 务必核实电子邮件、聊天记录和短信中发件人的身份。.

6. 与业内同行保持开放的沟通，并随时了解新出现的诈骗手段。.

7. 采取零信任的网络安全方法，假设威胁可能来自内部和外部来源。.

ChatGPT只是冰山一角，类似的、可能被用于社交工程攻击的聊天机器人很可能很快就会出现。虽然这些人工智能工具带来了显著的益处，但也存在着巨大的风险。保持警惕、加强教育并采取先进的网络安全措施，对于在与人工智能增强型网络威胁的持续斗争中保持领先至关重要。.