日益增长的担忧：AI驱动的聊天机器人被用于网络攻击

围绕ChatGPT的嗡嗡声，这是一种由OpenAI开发的AI驱动聊天机器人，以其产生优雅散文和功能性代码的能力而闻名，在科技领域是显而易见的。然而，一个迫在眉睫的困境出现了，即恶意网络攻击者利用类似的生成式AI工具（如ChatGPT）来编造令人信服的叙述并部署操作代码。这个问题给这些创新的有前途的潜力蒙上了一层阴影。

恶意利用的出现

一种根本性的担忧以恶意行为者渗透网络空间的形式出现。这些AI工具的专业能力赋予肇事者起草完美英语信息的能力，从而提高了网络战争的赌注。与过去粗糙的电子邮件引起怀疑不同，ChatGPT的出现使网络攻击者，即使那些英语能力有限的人，也能策划出令人信服的完美英语通信。

ChatGPT的设计者OpenAI最初融入了防止滥用的安全措施。然而，这些障碍对于坚定的恶意行为者来说，特别是在社会工程方面，已被证明只是路障。请求ChatGPT撰写一封欺骗性电子邮件，然后附上恶意链接或指令的简单性，展示了攻击者如何轻松地将这些工具用于不道德的目的。

AI在扩大威胁中的微妙角色

ChatGPT的默认“语气”，平淡但语法和标点符号完美，反映了众多面向客户的企业通信的风范。然而，不利影响超出了明显的操纵。生成式AI工具的出现为恶意行为者提供了一系列更微妙和意想不到的利用方法。

Checkpoint的研究表明，暗网已成为围绕利用ChatGPT进行强力社会工程攻击的讨论的温床。值得注意的是，不受支持地区的犯罪分子正在突破访问限制，尝试新方法。该工具生成多样化消息的独特能力能够避开针对识别重复内容的垃圾邮件过滤器，这一特点有利于策划网络钓鱼活动。

总部位于剑桥的网络安全公司Darktrace强调了基于AI的社会工程攻击的阴险演变。恶意网络钓鱼邮件的复杂性、长度和标点符号呈指数级增长，增加了欺骗的 sophistication（复杂性/精致度）。

针对性欺骗

虽然ChatGPT主要唤起人们对书面交流的联想，但像ElevenLabs开发的AI工具能够以权威的精确度复制语音，为基于语音的冒充铺平道路。后果是严重的；电话另一端的声音可能并不属于它声称的那个人。

ChatGPT的技能不仅限于撰写电子邮件，还能大规模伪造求职信和简历。这些伪造的资历可用于针对求职者的诈骗中。

一种流行的骗局涉及假冒的ChatGPT工具。攻击者利用这些创新的兴奋感，建立伪装成基于OpenAI模型的真实聊天机器人的虚假网站。这些欺诈平台实际上旨在窃取资金和个人数据。

适应AI驱动攻击的时代

应对这一局面需要多方面的方法：

• 在钓鱼演练中加入AI生成的内容，使用户熟悉不断演变的策略。
• 通过增加生成式AI意识来加强网络安全培训，可以减轻漏洞。
• 利用AI驱动的网络安全工具对抗AI助长的威胁，可以加强威胁检测。
• 利用基于ChatGPT的机制来识别AI生成的电子邮件具有前景。
• 严格验证通信来源至关重要。
• 持续的行业参与和警惕的信息消费有助于领先于新兴骗局。
• 拥抱零信任范式为应对新兴威胁提供了强大的保障。

ChatGPT的兴起标志着一个变革时代的开始，使网络安全格局变得复杂。随着我们度过这一年，许多类似的聊天机器人可能会出现，进一步纠缠动态关系。在这个错综复杂的环境中，补救措施在于加强工具、广泛教育和全面的网络安全方法。

面对这一挑战，行业必须团结起来，确保AI驱动进步的潜力不被剥削的阴影所掩盖。