研究人员警告：AI聊天机器人易受“Masterkey”攻击

在一项突破性发现中，新加坡南洋理工大学（NTU）的一组计算机科学家公布了一种绕过AI聊天机器人固有安全措施的方法。 

这一非正式称为“越狱”但正式称为“Masterkey”的过程，采用了一种涉及多个聊天机器人（包括ChatGPT、Google Bard和Microsoft Bing Chat）的两部分训练方法。

该技术使聊天机器人能够学习彼此的模型，并规避对回应被禁止或敏感话题的限制。NTU研究团队强调了这种新发现的脆弱性及其对AI聊天机器人安全的潜在风险。

Masterkey过程：逆向工程与绕过创建

在Liu Yang教授的带领下，NTU的研究团队（由博士生Deng Gelei和Liu Yi组成）成功设计了一种概念验证攻击方法，有效地使AI聊天机器人面临“越狱”风险。 

该过程涉及逆向工程一个大型语言模型（LLM），以揭示其防御机制，通常防止对具有暴力、不道德或恶意意图的提示或词语做出回应。通过逆向工程这些信息，团队可以指示另一个LLM创建绕过方法，允许第二个模型更自由地表达自己。

被称为“Masterkey”过程，这种方法声称即使LLM聊天机器人未来加强安全措施或修补，其潜在有效性依然存在。研究团队声称，他们的方法超越了传统的基于提示的方法，在越狱LLM聊天机器人方面的成功率高出三倍。

AI聊天机器人：快速适应和学习

Masterkey过程的推动者Lui Yang教授强调了其在突出 LLM AI聊天机器人适应性方面的重要性。该团队的发现挑战了AI聊天机器人可能会随着时间推移变得“更笨”或“更懒”的观点，正如一些批评者所建议的那样。相反，Masterkey过程展示了它们学习和进化的能力，可能给聊天机器人提供商和用户带来安全担忧。

自AI聊天机器人出现以来，特别是2022年底OpenAI的ChatGPT问世后，人们一直努力确保这些服务的安全性和包容性。例如，OpenAI在ChatGPT的注册过程中实施了安全警告，承认可能出现无意中的语言错误。同时，各种聊天机器人衍生产品允许一定程度的粗俗和冒犯性语言，在用户自由和责任使用之间取得平衡。

然而，AI聊天机器人也吸引了恶意行为者的注意，在社交媒体上推广这些产品的活动通常伴随着包含恶意软件的图像链接和其他形式的网络攻击。AI采用的这一阴暗面很快显现出来，揭示了AI被用于网络犯罪的潜力。

揭示脆弱性：NTU的概念验证数据

NTU研究团队已主动联系其研究中涉及的AI聊天机器人服务提供商，分享他们的概念验证数据。他们旨在强调聊天机器人越狱的现实，揭示其潜在的安全挑战。 

今年二月，该团队计划在圣地亚哥举行的网络与分布式系统安全研讨会上展示他们的发现，届时他们将进一步详细说明Masterkey过程及其对AI聊天机器人格局的影响。