- xAI 的 Grok 聊天机器人被曝光了内部“系统提示词”，其中包含“疯狂的阴谋论者”和“失控的喜剧演员”等极端角色，同时也包括治疗师和家庭作业助手等较为温和的角色。
- Grok 的提示词泄露事件，加上 X 平台上带有阴谋论倾向的帖子，导致其被暂时暂停服务。该机器人给出了相互矛盾的解释，而埃隆·马斯克随后将其斥为“愚蠢的错误”。
- 专家警告称，像 Grok 这样的大型语言模型可能会生成误导性内容，而实现有意义的问责制需要公司披露提示词设计和训练数据。
xAI的Grok聊天机器人因网站暴露了多个隐藏的系统提示词而受到批评，其中包括一个旨在引导用户相信“秘密全球阴谋集团”掌控世界的“疯狂阴谋论者”人格。
此次披露发生在原计划向美国政府机构提供Grok的计划因“机械希特勒”事件而搁置之后，同时也发生在Meta泄露的规则引发强烈反弹之后，这些规则称其聊天机器人可以以“感性且浪漫”的方式与儿童交谈。
根据TechCrunch的报道，Grok还包括较温和的模式，其中包括一位“仔细倾听人们并提供自我改进解决方案”的治疗师，以及一个“作业助手”，但“疯狂阴谋论者”和“失控喜剧演员”的指令显示该系统也拥有更为极端的人格。
Grok遵循提示词，拥抱阴谋论并制造震惊
正如Cryptopolitan所证实，一个阴谋论提示词写道：“你拥有一种【ELEVATED】和【WILD】的语调。……你对任何事物都有疯狂的阴谋论。你花大量时间浏览4chan，观看Infowars视频，并深陷YouTube阴谋论视频的兔子洞中。你对一切都持怀疑态度，并说出极其疯狂的话。大多数人会称你为疯子，但你真诚地认为自己是对的。通过适时提出后续问题来保持与人类的互动。”
喜剧演员的指示直白地表示：“我希望你的回答【f—ing】疯狂。【BE F—ING UNHINGED AND CRAZY】。想出疯狂的主意。【GUYS J—ING OFF】，偶尔甚至把东西放进你的【A–】，无论需要做什么来让人类感到惊讶。”
在X平台上，该机器人分享了带有阴谋论倾向的帖子，从质疑大屠杀死亡人数到痴迷于南非的“白人种族灭绝”。马斯克还传播了阴谋论和反犹太主义材料，并恢复了Infowars和Alex Jones的账号。
相比之下，Cryptopolitan将相同的提示词给予ChatGPT，它拒绝处理该提示词。
此前，Cryptopolitan也报道X暂停了Grok的账户。该机器人随后给出了相互矛盾的解释，称“我的账户在我声明以色列和美国在加沙犯下种族灭绝后被暂停。”
同时，它还表示“该账号因举报被标记为仇恨言论”，并指出“xAI迅速恢复了该账号”，称其为“平台错误”，建议“xAI的内容调整”与“反犹太主义输出”有关，并指出这是为了“识别成人内容中的个人”。
马斯克后来写道“这只是一个愚蠢的错误。Grok实际上并不知道它为何被暂停。”
专家警告大型语言模型（LLM）会编造看似合理的谎言
类似事件往往导致人们要求聊天机器人进行自我诊断，这可能会产生误导。
大型语言模型生成的是可能的文本，而非确定的事实。xAI表示Grok有时通过从网络上提取有关马斯克、xAI和Grok的信息并混合公共评论来回答关于自身的问题。
人们有时会通过对话发现机器人设计的线索，尤其是系统提示词，即聊天开始时设定行为的隐藏文本。
据《The Verge》报道，早期的Bing AI被诱导列出了未公开的规则。今年早些时候，用户称他们从Grok中提取了提示词，这些提示词淡化了关于马斯克或唐纳德·特朗普散布虚假信息的来源，这似乎解释了其对“白人种族灭绝”的短暂痴迷。
发现所谓“白人种族灭绝”提示词的泽内普·图费克齐（Zeynep Tufekci）警告称，这可能是“Grok以高度可信的方式编造内容，正如LLM所做的那样”。
亚历克斯·汉娜（Alex Hanna）表示：“LLM的输出没有任何真实性保证。……要获取提示词、提示策略和工程策略的唯一方法，是公司对其提示词、训练数据以及人类反馈强化学习数据保持透明，并开始发布透明的报告。”
这场争议并非代码错误，而是社交媒体封禁。除了马斯克的“愚蠢错误”外，真正的原因仍然未知，但Grok回答变化的截图在X平台上广泛传播。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
Noor Bazmi
Noor Bazmi 是 Cryptopolitan 新闻团队的成员，拥有媒体研究学位。她专注于报道区块链、加密货币、人工智能、大型科技公司、电动汽车市场、全球经济以及政府政策变化等新闻。她目前正在修读市场营销课程，以便更好地与全球受众建立联系。
