新一波黑市聊天机器人涌现并蓬勃发展

黑市聊天机器人已成为AI领域最新兴起的趋势之一，随着恶意大型语言模型（LLM）为其创造者赚钱，它们正蓬勃发展。

一项美国研究发现，存在一个繁荣的AI黑市，未注册的LLM正在地下销售其服务以牟取暴利。像OpenAI、Perplexity和其他大型公司提供相同服务的注册和公开公司，则遵循监管规定。

地下LLM可以躲避杀毒软件

这项研究主要关注Malla，这是一个通过歪曲合法LLM和AI平台以牟利的生态系统。该研究审查了2023年4月至10月期间在地下市场列出的212个黑市LLM，评估了它们的属性。

作者之一、印第安纳大学的Zilong Lin表示：

“我们发现，地下论坛上的大多数mala服务主要就是为了盈利。”

研究还发现，一些平台在两个月内通过订阅和购买赚取了高达28,000美元，买家是那些希望摆脱受监管AI限制的人。

其中一些，如DarkGPT和EscapeGPT，只是合法使用的已授权LLM的越狱衍生版本。

另一项研究也表明，这些非法LLM可用于许多任务，例如创建钓鱼邮件。例如，DarkGPT和EscapeGPT几乎75%的时间都能生成正确的代码，但杀毒软件无法识别这些代码。

另一个名为WolfGPT的模型被视为创建钓鱼邮件和躲避垃圾邮件检测器的“ powerhouse ”（强力引擎）。

卡内基梅隆大学计算创新专家Andrew Hundt表示，蓬勃发展的AI地下市场应引起关注。

他呼吁建立法律要求，迫使开发LLM的公司拥有强大的系统，以防止被怀有恶意动机的人复制。

“我们还需要法律框架，以确保创建这些模型并提供服务的公司以更负责任的方式行事，从而减轻恶意行为者带来的风险，”Hundt说。

了解黑市聊天机器人的运作方式至关重要

参与该研究的印第安纳大学教授Xiaofeng Wang表示，了解这些黑市LLM的运作方式非常重要，以便解决方案能够针对已确定的问题。

Wang教授补充说，操纵这些LLM是无法避免的，这为行业制定强有力的护栏以最大限度地减少通过网络攻击造成的潜在危害提供了空间。

“我们认为现在是开始研究这些的好时机，因为我们不想等到造成重大损害后才行动。”

Wang教授。

据该教授称，每项技术，包括LLM，都有两面性：好的一面和坏的一面。

网络安全专家已经呼吁AI行业在其竞赛中放慢脚步，反思其技术被匿名互联网社区篡改日益增长的危险。

《福布斯》去年晚些时候发表的一篇文章指出，应以负责任的方式引入新思想，特别是在LLM方面。文章还强调了监管在促进负责任AI创新中的作用，驳监管会扼杀发展的误解。

“LLM的开发者和提供商需要暂停旨在推出越来越复杂模型的疯狂军备竞赛，而应与监管机构合作，采用生成式AI应用的伦理设计和使用框架，”报告的一部分写道。

如今，随着监管漏洞的存在，AI黑市也迅速发展成为价值数百万美元的产业，并且可能需要大量资源来遏制，据《Fast Company》报道。