- 像ChatGPT这样的AI驱动工具正被网络攻击者利用，用于策划令人信服的社交工程攻击，引发了严重担忧。
- 基于AI的社交工程攻击的兴起对传统的钓鱼攻击检测方法提出了挑战。
- 有效的防御策略包括AI意识培训、先进的网络安全工具以及零信任安全方法。
最近，科技界对OpenAI开发的基于人工智能的聊天机器人ChatGPT的能力议论纷纷。这个多功能工具因其能够生成有说服力的散文甚至功能性代码而备受赞誉。然而，随着技术的演变，恶意行为者的方法也在进化，ChatGPT的强大能力并非不会遭到网络攻击者的利用。
像ChatGPT这样的生成式AI工具已成为一把双刃剑。虽然它们赋予用户令人印象深刻的功能，但也为恶意行为者提供了一种强有力的手段来制作令人信服的叙述和代码，包括社会工程学攻击。这引发了人们对这类新工具对网络攻击（特别是涉及社会工程学的攻击）影响的担忧。
完美社会工程学的时代
在过去，措辞不当或语法错误的电子邮件往往是网络钓鱼尝试的典型迹象。网络安全意识培训强调识别此类异常以 thwart 潜在威胁。然而，ChatGPT的出现改变了游戏规则。即使英语能力有限的人现在也能用完美的英语创建完美、令人信服的邮件，使得检测社会工程学尝试变得越来越具有挑战性。
OpenAI已在ChatGPT中实施了一些安全措施以防止滥用，但这些障碍并非不可逾越，特别是对于社会工程学目的而言。恶意行为者可以指示ChatGPT生成诈骗邮件，然后附上恶意链接或请求发送。这一过程非常高效，ChatGPT能像专业人士一样快速生成邮件，正如按要求创建的示例邮件所示。
Darktrace的发现及基于AI的社会工程学攻击的兴起
网络安全公司Darktrace报告称，基于AI的社会工程学攻击激增，并将这一趋势归因于ChatGPT和类似工具。这些攻击正变得更为复杂，网络钓鱼邮件变得更长、标点更准确、更具说服力。ChatGPT的默认语气模仿企业沟通，使得区分恶意消息变得更加困难。
罪犯的学习曲线
网络罪犯是快速的学习者。据报道，暗网论坛现在充斥着关于利用ChatGPT进行社会工程学的讨论，来自不受支持国家的罪犯找到了绕过限制并利用其力量的方法。ChatGPT使攻击者能够生成大量独特的消息，从而逃避寻找重复内容的垃圾邮件过滤器。此外，它还有助于创建多态恶意软件，使得检测更具挑战性。
虽然ChatGPT主要侧重于书面交流，但其他AI工具可以生成模仿特定个人的逼真语音。这种声音模仿能力为电话通话打开了大门，这些通话可以令人信服地模仿知名人物。这种双管齐下的方法——可信的电子邮件随后是语音通话——为社会工程学攻击增加了一层欺骗性。
利用求职者及假冒ChatGPT工具
ChatGPT不仅限于撰写电子邮件；它可以大规模生成求职信和简历，从而在骗局中利用求职者。此外，骗子利用ChatGPT热潮，创建了声称基于OpenAI模型的假冒聊天机器人网站。这些网站实际上旨在窃取资金和收集个人数据。
防范AI赋能的攻击
随着AI赋能攻击变得越来越普遍，组织必须适应这一不断演变的威胁格局：
1. 在网络钓鱼模拟中纳入AI生成的内容，使员工熟悉AI生成的沟通风格。
2. 将生成式AI意识培训整合到网络安全项目中，强调ChatGPT和类似工具如何被利用。
3. 采用基于AI的网络安全工具，利用机器学习和自然语言处理来检测威胁，并将可疑通信标记供人工审查。
4. 利用基于ChatGPT的工具来识别由生成式AI撰写的电子邮件，增加额外的安全层。
5. 始终验证电子邮件、聊天和短信中发送者的真实性。
6. 与行业同行保持开放沟通，并了解新兴骗局。
7. 拥抱网络安全的零信任方法，假设威胁可能来自内部和外部来源。
ChatGPT只是冰山一角，类似聊天机器人可能会很快出现，并有可能在社会工程学攻击中被利用。虽然这些AI工具提供了显著的好处，但也带来了巨大的风险。警惕、教育和先进的网络安全措施对于在对抗AI增强型网络威胁的持续战斗中保持领先至关重要。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明. 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Glory Kaburu
Glory是一位精通AI工具与研究的知识渊博的记者。她热衷于人工智能领域，并撰写了多篇相关文章。她持续关注人工智能、机器学习和深度学习领域的最新进展，并定期发表相关评论。
