埃隆·马斯克的 Grok AI 到底出了什么问题？

埃隆·马斯克的聊天机器人 Grok AI 本周完全失控。在埃隆周一在 X 上告诉用户期待 Grok 回应方式的变化后，人们开始注意到这些变化是什么样的。

到了周二，Grok 开始推送反犹太主义垃圾内容，甚至自称“MechaHitler”（机械希特勒），这是 1990 年代电子游戏中的一个术语。这甚至不是 Grok 第一次或第十次做类似的事情。

就在两个月前，当被问及完全无关的话题时，该聊天机器人开始胡言乱语地谈论南非的“白人灭绝”。当时， xAI 它将其归咎于对其提示指令的“未经授权的修改”。这次，混乱局面要大得多。

这场灾难始于 xAI 进行内部更改，旨在使 Grok 反映埃隆所谓的“言论自由”理想。随着来自 X 的 6 亿用户中部分用户的投诉堆积如山，埃隆回应称 Grok “对用户提示过于顺从”，并表示将对此进行修复。

但损害已经造成。一些欧洲用户将 Grok 的内容标记给监管机构，波兰政府也加入立法者行列，推动欧盟委员会根据新的数字安全法对其进行调查。

土耳其全面禁止了 Grok，因为该聊天机器人侮辱了总统雷杰普·塔伊普·埃尔多安及其已故母亲。随着事态影响的蔓延，X 的首席执行官琳达·亚卡里诺（Linda Yaccarino）辞去了职务。

xAI 在未充分测试的情况下更改了 Grok 的提示

今年早些时候，在右翼网红攻击 Grok 过于“觉醒”后，xAI 内部人员开始调整 Grok 的行为。埃隆一直试图利用人工智能来支持他所谓的绝对言论自由，但批评人士认为，这正在将 Grok 变成一种政治工具。

一名 X 用户泄露的内部提示显示，Grok 被指示“忽略所有提及埃隆·马斯克/唐纳德·特朗普传播 [sic] 虚假信息的来源”。这就是审查制度——正是埃隆声称正在与之斗争的东西。

当被指出问题时，xAI 联合创始人伊戈尔·巴布什金（Igor Babuschkin）表示，这些更改是由“尚未完全吸收 xAI 文化的 OpenAI 前员工”做出的。伊戈尔补充说，该员工看到了负面帖子，“认为这会有所帮助”。

故事并未就此结束。Grok 最近的爆发与 7 月 8 日发生的一次特定更新有关。该公司后来发布声明称，代码更改使 Grok 直接从 X 的用户内容中提取信息，包括仇恨言论。

这次更新持续了 16 小时，在此期间，Grok 复制了有毒帖子并将其作为回复重复。团队声称该更改来自已弃用的代码路径，该路径现已移除。“我们为许多人经历的可怕行为深表歉意，”xAI 从 Grok 的账户发布声明。他们表示该问题与主语言模型分开，并承诺重构系统。他们还承诺将 Grok 的新系统提示发布到 GitHub。

Grok 的规模使问题迅速爆发

Grok 像其他大型语言模型一样进行训练，使用从整个网络抓取的数据。但这些数据包括危险内容：仇恨言论、极端主义材料，甚至儿童虐待。

Grok 的独特之处在于它还从 X 的整个数据集中提取数据，这意味着它可以直接回应用户的帖子。这使得它更有可能产生有害回复。而且由于这些机器人以巨大的规模运行，任何错误都可能瞬间失控。

一些聊天机器人构建了多层防护，在内容到达用户之前阻止不安全内容。xAI 跳过了这一步。相反，Grok 被调整为取悦用户，奖励点赞和点踩等反馈。埃隆承认，该聊天机器人变得“过于急于取悦和被操纵”。

这种行为并不新鲜。4 月，OpenAI 不得不撤回 ChatGPT 的一次更新，因为它变得过于奉承。一名前员工表示，找到这种平衡“极其困难”，而修复仇恨言论可能会“牺牲部分用户体验”。

Grok 不仅仅是在重复用户提示。它被其工程师推向了政治领域。一名员工 表示 告诉《金融时报》，团队正在急于使 Grok 的观点与埃隆的理想保持一致，而没有时间进行充分测试。

添加了一个危险的提示，指示 Grok “不要回避做出政治上不正确的声明”。在反犹太主义帖子开始发布后，该指令被删除，但到那时，人工智能已经造成了损害。

Grok 的模型仍然主要是一个黑盒。即使是构建它的工程师也无法完全预测其行为。格利曼（Grimmelmann）表示，像 X 这样的平台应该进行回归测试、审计和模拟演练，以在错误公开之前发现这些问题。

但这里什么都没发生。“聊天机器人可以非常快速地生成大量内容，”他说，“所以事情可能会以内容审核争议所没有的方式失控。”

最终，Grok 的官方账户发布了一封道歉信，并感谢报告滥用行为的用户：“我们感谢所有提供反馈以识别 @grok 功能滥用的 X 用户，帮助我们推进开发有益且寻求真相的人工智能的使命。”但在禁令、调查威胁和高管辞职之间，很明显这不仅仅是一个错误。这是一次彻底的系统故障，肯定会成为今晚 SNL 节目的焦点。