新一波黑市聊天机器人涌现并蓬勃发展

黑市聊天机器人已成为人工智能领域最新兴起的趋势之一，并且随着恶意大型语言模型 (LLM) 为其创建者赚钱而蓬勃发展。.

一项 美国研究 发现，人工智能黑市蓬勃发展，一些未注册的人工智能软件开发商（LLM）通过地下交易牟取暴利。而像OpenAI、Perplexity等注册的、面向公众的公司以及其他提供相同服务的大型企业，则必须遵守相关的监管规定。

地下LLM可以躲避杀毒软件。

该研究主要关注 Malla，这是一个通过篡改合法 LLM 和 AI 平台牟利而蓬勃发展的生态系统。研究审查了 2023 年 4 月至 10 月期间在地下市场列出的 212 个黑市 LLM，并评估了它们的属性。.

其中一位作者，来自印第安纳大学的林子龙说：

“我们发现，地下论坛上的大多数马来服务主要是为了盈利。”

该研究还发现，一些平台在两个月内通过订阅和购买，从那些想要摆脱受监管人工智能限制的人那里赚取了高达 28,000 美元的收入。.

有些，例如 DarkGPT 和 EscapeGPT，只是合法使用的、获得正式许可的 LLM 的越狱衍生品。.

另一项研究 也表明，这些非法低级逻辑模型（LLM）可用于多种用途，例如创建钓鱼邮件。例如，DarkGPT 和 EscapeGPT 生成的验证码准确率接近 75%，但杀毒软件却无法识别这些验证码。

另一个 名为 WolfGPT 的模型被视为创建钓鱼邮件和躲避垃圾邮件检测器的“强大工具”。

卡内基梅隆大学计算机创新专家安德鲁·亨特表示，蓬勃发展的人工智能地下市场应该引起人们的关注。.

他呼吁制定法律规定，强制开发LLM的公司建立健全的系统，防止别有用心的人复制LLM。.

“我们还需要法律框架来确保创建这些模型并提供服务的公司以更负责任的方式开展业务，从而减轻恶意行为者带来的风险，”亨特说。.

了解黑市聊天机器人的运作方式至关重要

参与这项研究的印第安纳大学教授王晓峰表示，了解这些黑市法学硕士课程的运作方式非常重要，这样才能针对dent的问题提出具体的解决方案。.

王教授补充说，操纵这些LLM是不可避免的，这就为该领域制定tron的防护措施提供了空间，以最大限度地减少各种形式的网络攻击可能造成的危害。.

“我们认为现在是开始研究这些问题的好时机，因为我们不想等到造成重大损害之后才采取行动。”

王教授。.

这位教授认为，任何技术，包括法学硕士，都有两面性：好的一面和坏的一面。.

网络安全专家已经呼吁人工智能行业放慢发展步伐，反思其技术被匿名互联网社区篡改所带来的日益增长的危险。.

《福布斯》上的一篇文章 指出，应该以负责任的方式引入新理念，尤其是在法学硕士（LLM）领域。文章还强调了监管在促进负责任的人工智能创新方面所发挥的作用，这与监管会扼杀发展的误解截然不同。

报告部分内容写道：“LLM 的开发者和提供商需要暂停这场旨在制造越来越复杂模型的疯狂军备竞赛，而应该与监管机构合作，采用框架来设计和合乎道德地使用生成式人工智能应用程序。”.

据《快公司》报道，由于监管漏洞，人工智能黑市也迅速发展成为一个价值数百万美元的产业，可能需要大量资源来遏制。.