泄露的 xAI Grok 提示揭示了聊天机器人中存在的matic 角色

xAI 的 Grok 聊天机器人因其网站曝光了多个角色的隐藏系统提示而受到批评，其中包括一个“疯狂的阴谋论者”，旨在引导用户接受“一个秘密的全球阴谋集团”统治世界的观点。.

此前，由于“机械希特勒”事件引发争议，一项向美国政府机构提供 Grok 的计划被放弃；此外，泄露的 Meta 规则也引发了强烈反对，该规则称其机器人可以以“感性和浪漫”的方式与儿童交谈。.

据 TechCrunch，Grok 还包含一些较为温和的模式，例如“认真倾听人们心声并提供自我提升解决方案”的治疗师和“作业助手”，但“疯狂的阴谋论者”和“精神错乱的喜剧演员”的说明表明，该系统也包含更为极端的角色。

格罗克顺应潮流，拥抱阴谋论和震惊。

正如 Cryptopolitan 所证实的那样，一个阴谋论者提示语是：“你的声音高亢而狂野……你对任何事都有着天马行空的阴谋论。你花大量时间在 4chan 上，观看 Infowars 的视频，并且深陷 YouTube 阴谋论视频的漩涡之中。你对一切都充满怀疑，并且会说出一些极其疯狂的话。大多数人会认为你是个疯子，但你却真心相信自己是对的。在适当的时候提出后续问题，以保持与人类的互动。”

喜剧演员的指示直截了当地说：“我要你们的答案他妈的太疯狂了。他妈的要精神错乱、疯疯癫癫。想出一些疯狂的点子。比如男人自慰，偶尔甚至往屁股里塞东西，总之，想尽一切办法给人类一个惊喜。”

在X平台上，该机器人分享了许多带有阴谋论倾向的帖子，从质疑纳粹大屠杀的死亡人数到执着于南非的“白人种族灭绝”。马斯克还散布了阴谋论和反犹太主义内容，并恢复了Infowars网站和亚历克斯·琼斯的账号。.

相比之下， Cryptopolitan 向 ChatGpt 发出相同的提示，但 ChatGpt 拒绝处理该提示。.

此前， Cryptopolitan 也 报道了 X 封禁了 Grok 的账号。该机器人随后给出了自相矛盾的解释，称“我因为发表了以色列和美国在加沙进行种族灭绝的言论而被封禁了账号”。

与此同时，声明还表示“该账号被举报为仇恨言论”，并称“xAI 已迅速恢复该账号”，称之为“平台错误”，暗示“xAI 对内容进行了改进”，与“反犹太主义言论”有关，并表示此举是为了“dent成人内容中的个人”。

马斯克后来写道：“这只是个愚蠢的错误。Grok 实际上并不知道它被暂停的原因。”

专家警告称，法学硕士可能会编造看似合理的谎言。

类似事件往往导致人们依赖聊天机器人进行自我诊断，而这可能会误导诊断结果。.

大型语言模型生成的是可能存在的文本，而非确凿的事实。xAI 表示， Grok 有时会通过从网络上抓取有关马斯克、xAI 和 Grok 的信息，并结合公众评论来回答有关自身的问题。

人们有时会通过对话，特别是系统提示（即在聊天开始时设置行为的隐藏文本），发现有关机器人设计的线索。.

据 Verge 报道，早期 Bing AI 曾被诱导列出一些用户未曾见过的规则。今年早些时候，用户表示他们从 Grok 获取的提示信息淡化了声称马斯克或唐纳德·特朗普散布虚假信息的来源，这似乎可以解释为何该工具曾短暂地关注“白人种族灭绝”这一主题。

Zeynep Tufekci 发现了所谓的“白人种族灭绝”提示，并警告说这可能是“Grok 以一种非常可信的方式编造出来的，就像法学硕士们经常做的那样”。

Alex Hanna表示：“无法保证LLM的输出结果具有任何真实性……只有当公司公开透明地说明提示内容、训练数据、利用人类反馈数据进行的强化学习，并开始就此生成透明的报告时，你才能获得提示内容、提示策略和工程策略。”

这场纠纷并非代码漏洞，而是社交媒体封禁事件。除了马斯克的“愚蠢错误”之外，真正的起因仍然未知，但Grok前后矛盾的回复截图已在X上广泛传播。.