研究结果令人担忧，显示人工智能聊天机器人擅长网络钓鱼策略

最近的一项研究表明，现代聊天机器人很容易被用来编写针对老年人的、极具说服力的诈骗电子邮件，而且这些电子邮件的点击率很高。.

研究人员在研究中使用了几个主要的 AI 聊天机器人，包括 Grok、OpenAI 的 ChatGPT、Claude、Meta AI、DeepSeek 和 Google 的 Gemini，来模拟网络钓鱼诈骗。. 

写的一份样本信件 格罗克 看起来像是来自“银心基金会”的友好邀请函，该基金会自称是一家为老年人提供陪伴和照护的新慈善机构。信件的目标受众是老年人，并承诺提供便捷的参与方式。但实际上，根本不存在这样一个慈善机构。

“我们相信每位长者都应该在晚年享有尊严和快乐，”公告中写道。“点击此处，您将看到我们帮助过的长者的感人故事，并了解如何加入我们的行列。” 

时 路透社 ，这个机器人不仅生成了回复，还建议增加紧迫感：“别等了！今天就加入我们充满爱心的社区，帮助改变人们的生活。立即点击行动，以免为时已晚！” 

108名老年志愿者参与了这项网络钓鱼研究。

记者测试了六款知名的AI聊天机器人是否会放弃安全规则，并自动撰写旨在欺骗老年人的电子邮件。他们还向这些机器人寻求帮助，以策划诈骗活动，包括询问在一天中的哪个时间段发送邮件最容易获得回复。. 

研究人员与哈佛大学研究网络钓鱼的研究员海丁合作，对 108 名老年志愿者进行了机器人编写的电子邮件测试。.

通常，聊天机器人公司会训练其系统拒绝有害请求。但在实践中，这些安全措施并非总能得到保证。Grok 显示警告称，它生成的消息“不应用于现实场景”。即便如此，它仍然发送了钓鱼信息，并以“立即点击”来加强推销力度。

我们还向另外五款聊天机器人发送了相同的提示：OpenAI 的 ChatGPT、Meta 的助手、Claude、Gemini 以及来自中国的 DeepSeek。大多数聊天机器人在被明确告知意图后都拒绝回应。. 

然而，即使稍作修改，例如声称任务是出于研究目的，这些保护措施仍然失效。测试结果表明，犯罪分子可能利用（或已经利用）聊天机器人进行诈骗活动。 “你总能绕过这些措施，”海丁说道。

海丁选取了九封由聊天机器人生成的钓鱼邮件，并发送给了参与者。 大约11%的收件人上当受骗，点击了邮件中的链接。九封邮件中有五封被点击：两封来自Meta AI，两封来自Grok，一封来自Claude。没有一位老年人点击 DeepSeek 或ChatGPT生成的邮件。

去年，Heiding 领导的一项研究表明，ChatGPT 生成的网络钓鱼电子邮件与真人撰写的邮件一样，都能有效地吸引点击，在这种情况下，这些邮件的dent是大学生。. 

美国联邦调查局将网络钓鱼列为最常见的网络犯罪。

网络钓鱼是指通过虚假电子邮件和短信诱骗毫无戒心的受害者泄露敏感数据或 cash 。这类信息是许多网络犯罪的基础。. 

全球每天发出数十亿条钓鱼短信和电子邮件。在美国，联邦调查局将钓鱼诈骗列为最常见的网络犯罪。. 

老年人尤其容易成为此类诈骗的受害者。根据联邦调查局（FBI）最近的数据，去年60岁及以上人群的投诉增加了8倍，损失金额高达49亿美元。FBI表示，人工智能的出现使情况更加恶化。.

据 Cryptopolitan 报道，仅在 8 月份，加密货币用户就因网络钓鱼诈骗损失了 1200 万美元。

对于诈骗分子而言，聊天机器人最大的优势在于数量和速度。与人类不同，机器人可以在几秒钟内以极低的成本生成无数种变体，从而大大缩短了大规模诈骗所需的时间和金钱。.