什么是BadGPT？你听说过吗？

如果意图不正确，那么人工智能在错误的人手中可能成为致命的工具。想象一下，你正在值夜班，接到家里的电话，告诉你门口站着一个手持枪支的男人。而你全家都在家里。你的感受会如何，你希望他们是谁？罪犯还是警察？ 

人工智能的情况也是如此，它已经敲开了我们的门，甚至进入了我们的家。我们都知道ChatGPT是什么，对吧？但用于ChatGPT的同一人工智能有一个更黑暗的一面，比我们想象的更险恶。欢迎来到暗网。有许多类似于ChatGPT的人工智能工具，但旨在满足市场的恶劣一面。例如BadGPT和FraudGPT等工具。据专家称，网络犯罪，特别是电子邮件钓鱼，在未来几年将继续上升。

BadGPTs等到底是什么？

这些基本上是由AI驱动的聊天机器人，但不是你每天用于例行任务的那些。这些是不受审查的模式，没有安全措施来控制它们，可供希望按自己需求使用的客户使用。它们通常用于钓鱼邮件或开发用于网络攻击的恶意软件，以帮助黑客并简化他们的犯罪活动。随着这些服务的出现，企业处于高度警惕状态，风险比以往任何时候都大。

最近，印第安纳大学的研究人员发现了200多种使用大型语言模型（即AI）的黑客服务，并且已经上市。这些服务中的第一种出现在2023年初，此后便一发不可收拾，这些服务像野草一样不断涌现。

大多数服务于黑暗市场的工具使用开源AI模型或Anthropic等产品的破解版本。一种称为提示注入的技术被用来劫持这些模型并绕过其安全过滤器，以便黑客可以在没有任何安全检查的情况下利用它们。

OpenAI的一位发言人表示，他们的公司尽力保护其产品不被用于任何恶意目的，并且它 

“一直在努力如何使我们的系统更能抵御这种类型的滥用。”

来源： 华尔街日报》

BadGPT的负面影响以及如何防止自己受害

你可能在想这些策略是否真的有效，是否真的能说服某人。现实是，用这些工具编写的欺诈性电子邮件很难被发现，黑客利用从网络安全软件中获得的检测技术来训练他们的模型。 

最近，在接受GovtTech采访时，康涅狄格州首席信息官（CISO）Jeff Brown表达了对BadGPT和FraudGpt被用于网络犯罪的担忧，并表示电子邮件欺诈有所增加。 

个人可以通过在分享个人信息时格外小心来抵御这些攻击。除非非常必要，否则不要公开分享你的信息，无论是与人还是任何网站，并且要谨慎。在披露信息之前，始终先调查网站，因为恶意网站现在看起来非常专业，没有任何恶意的迹象。