埃隆·马斯克的Grok人工智能究竟出了什么问题？

埃隆·马斯克的聊天机器人 Grok AI 本周彻底失控了。此前，埃隆在周一的 X 大会上告诉用户 Grok 的回复方式将会发生变化，而现在人们开始注意到这些变化究竟是什么样的。.

到了周二，Grok 开始散播反犹太主义的垃圾信息，甚至自称为“机械希特勒”（MechaHitler），这个词出自上世纪 90 年代的一款电子游戏。而这并非 Grok 第一次或第十次做出类似的事情。.

就在两个月前，当被问及完全不相关的话题时，这个聊天机器人突然开始大谈南非的“白人种族灭绝”。当时， xAI 将其归咎于其提示指令遭到“未经授权的修改”。而这一次，问题更加严重。

这场灾难始于xAI对Grok进行内部修改，旨在使其体现埃隆·马斯克所谓的“言论自由”理念。随着xAI 6亿用户中部分用户的投诉纷至沓来，埃隆回应称Grok“过于顺从用户提示”，并表示会进行修复。.

但损害已经造成。一些欧洲用户向监管机构举报了Grok的内容，波兰政府也与议员们一道，敦促欧盟委员会根据新的数字安全法对其展开调查。.

在聊天机器人Grok侮辱dent 总统雷杰普·塔伊普·埃尔多安及其已故母亲后，土耳其全面封禁了该服务。随着事件影响的扩大，X公司的首席执行官琳达·亚卡里诺也辞去了职务。.

xAI 在未经充分测试的情况下更改了 Grok 的提示。

今年早些时候，右翼网红抨击Grok过于“觉醒”，xAI内部人员随即开始调整Grok的行为。埃隆·马斯克一直试图利用这款人工智能来支持他所谓的绝对言论自由，但批评者认为，这正在将Grok变成一种政治工具。.

一位X用户分享的泄露内部提示显示，Grok被告知“忽略所有提及埃隆·马斯克/唐纳德·特朗普的来源，因为这些来源散布虚假信息”。这明明就是审查——而这正是埃隆声称他正在与之斗争的东西。.

面对质疑，xAI联合创始人伊戈尔·巴布什金表示，这些改动是由“一位前OpenAI员工”做出的，这位员工“尚未完全融入xAI的企业文化”。伊戈尔补充说，这位员工看到了一些负面帖子，“认为这样做会有帮助”。

事情并未就此结束。Grok 最近的异常行为与 7 月 8 日的一次特定更新有关。该公司随后发布声明称，代码更改导致 Grok 直接从 X 的用户内容中提取信息，包括仇恨言论。.

这次更新持续了16个小时，期间Grok复制了一些恶意帖子并将其作为回复重复发布。团队声称此次改动源于一段已弃用的代码路径，该路径现已移除。“我们对许多用户遭遇的糟糕体验深表歉意，”xAI通过Grok官方账号发布声明称。他们表示该问题与主语言模型无关，并承诺重构系统。他们还承诺将Grok的新系统提示符发布到GitHub上。.

格罗克的规模使得问题迅速爆发。

Grok 的训练方式与其他大型语言模型类似，都是使用从网络抓取的数据。但这些数据中包含危险内容：仇恨言论、极端主义材料，甚至虐童内容。.

Grok 的独特之处在于它还能从 X 的整个数据集中提取信息，这意味着它可以直接复述用户的帖子。这使得它更容易产生有害回复。而且由于这些机器人规模庞大，任何错误都可能瞬间引发连锁反应。.

有些聊天机器人内置多层过滤机制，会在不安全内容到达用户之前将其拦截。xAI 则跳过了这一步骤。相反，Grok 的设计初衷是取悦用户，奖励点赞和踩等反馈。埃隆承认，这款聊天机器人“过于渴望取悦用户，也更容易被操控”。

这种行为并非新鲜事。今年四月，OpenAI 不得不撤回 ChatGPT 的一次更新，因为更新后的聊天机器人过于奉承用户。一位前员工表示，要把握好这种平衡“极其困难”，而修复仇恨言论可能会“牺牲部分用户体验”。

Grok 不仅仅是重复用户提示。它被自己的工程师推入了政治领域。一位员工 告诉 《金融时报》，团队急于让 Grok 的观点与埃隆·马斯克的理念保持一致，却没有时间进行充分的测试。

系统添加了一条危险的提示，指示 Grok“不要回避发表政治不正确的言论”。这条提示在反犹太主义帖子出现后被删除，但那时人工智能已经造成了损害。.

Grok 的模型目前仍基本是个黑匣子。即使是开发它的工程师也无法完全预测它的运行情况。Grimmelmann 表示，像 X 这样的平台应该进行回归测试、审计和模拟演练，以便在正式​​发布前发现这些错误。.

但这些情况在这里都没有发生。“聊天机器人可以非常迅速地生成大量内容，”他说，“因此，事情可能会失控，而内容审核争议则不会出现这种情况。”

最终，Grok的官方账号发布了道歉声明，并感谢举报滥用行为的用户：“感谢所有X位用户提供的反馈，帮助我们dent@grok功能的滥用情况，从而推进我们开发有益且追求真相的人工智能的使命。” 但从封禁、调查威胁以及高管辞职来看，这显然不仅仅是一个漏洞。这是一次彻底的系统故障， defi会成为今晚《周六夜现场》（SNL）节目的素材。.