如果意图不纯，人工智能落入不法之徒手中，就可能成为致命的工具。想象一下，你正在值夜班，突然接到家里的电话，说有个男人持枪站在你家门口。而你的家人都在家。你会作何感想？你更希望站在门口的是谁？罪犯还是警察？
人工智能也是如此，它已经悄然进入我们的生活，甚至可以说是已经走进了我们的家。我们都知道 ChatGPT 是什么，对吧？但 ChatGPT 所使用的人工智能技术也存在着阴暗面，其危害远超我们的想象。欢迎来到暗网。暗网中存在着许多与 ChatGPT 类似的人工智能工具，但它们是专门为不法分子服务的。例如 BadGPT 和 FraudGPT 等等。据专家预测，网络犯罪，尤其是电子邮件钓鱼，在未来几年将会持续增长。.
BadGPT 之类的东西究竟是什么？
这些本质上是聊天机器人，但并非您日常用于处理琐事的那种。它们不受任何审查，没有任何安全措施加以控制，客户可以根据自身需求随意使用。这些机器人通常被用于发送钓鱼邮件或开发恶意软件进行网络攻击，以帮助黑客实施犯罪活动。随着这些服务的出现，企业面临着前所未有的高度警惕和风险。
印第安纳大学的研究人员最近发现，市面上已有超过200种利用大型语言模型（即人工智能）的黑客服务。这些服务最早出现在2023年初，此后便如雨后春笋般涌现。.
大多数面向暗网市场的工具都使用开源人工智能模型或破解版的Anthropic等模型。一种名为“提示注入”的技术被用来劫持这些模型并绕过其安全过滤器，从而使黑客能够在没有任何安全检查的情况下利用它们。.
OpenAI 的一位发言人表示，该公司尽最大努力保护其产品不被用于任何恶意用途，并且……
“我们一直在努力研究如何使我们的系统更能抵御此类滥用行为。”
来源：华尔街日报
BadGPT的负面影响以及如何预防
你或许会想，这些手段真的有效吗？真的能骗过人吗？事实上，用这些工具编写的诈骗邮件很难识别，而且黑客会利用从网络安全软件中获得的检测技术来训练他们的模型。.
最近，康涅狄格州首席信息安全官 (CISO) Jeff Brown 在接受 govttech 采访时，表达了他对 BadGPT 和 FraudGpt 被用于网络犯罪的担忧，并表示基于电子邮件的欺诈行为大幅增加。.
个人可以通过在与任何人分享个人信息时格外谨慎来防范这些攻击。除非万不得已，否则不要轻易公开分享您的信息，无论是与人分享还是在任何网站上分享，即使有必要，也务必谨慎。在披露信息之前，务必先调查网站，因为恶意网站现在看起来非常专业，丝毫没有恶意迹象。.
