专家警告称，Grok AI 在 X 平台上发布了种族歧视图片。

专家们对 X 的 Grok AI 制作的种族主义辱骂图片表示担忧并发出警告，这些图片在 12 月份充斥着该平台。.

据 Signify（一家与知名体育团体和俱乐部合作 trac和举报网络仇恨的组织）称，互联网和平台上的图片数量将会升级，尤其是在不久的将来。.

Grok更新后，大量虐待图片涌入X平台。

据 《卫报》，Grok AI更新后，据称生成了多张种族歧视图片，其中包括一些逼真的足球运动员和教练的种族歧视图片。其中一张图片显示一名黑人球员正在采摘棉花，另一张图片则描绘了一名球员在吃香蕉，周围环绕着猴子。

其他图片显示，其他几位球员和经理与奥萨马·本·拉登、阿道夫·希特勒和萨达姆·侯赛因等有争议的历史人物会面和交谈。.

Signify注意到，使用Grok AI生成的计算机图像数量突然激增，并大量涌入X平台，对此表示担忧。该公司也对这一趋势感到担忧，并认为随着逼真AI技术的引入，此类图像的制作将更加便捷，其普及程度也将进一步提高，未来社交媒体上此类图像的数量可能会更多。.

“现在这的确是个问题，但这仅仅是未来问题的开端。情况会变得更加糟糕，而我们现在才刚刚开始，我预计未来12个月内情况会变得极其严重。”

表示。.

X 的生成式人工智能工具由埃隆·马斯克于 2023 年推出。最近，它新增了一项名为 Aurora 的文本转图像功能，该功能可以根据用户的简单提示创建逼真的 AI 图像。.

此前，据《卫报》报道，一款名为Flux的低配版软件也曾在今年早些时候引发争议，因为它被发现能够做到许多其他同类软件不会做的事情。这些事情包括描绘 受版权保护的角色和公众人物 处于不雅姿势、吸毒或实施暴力行为。

X 变成了仇恨的平台

反网络仇恨中心 (CCDH) 研究主管卡勒姆·胡德指责 X 平台已成为仇恨传播平台。胡德表示，X 平台通过收益分成激励和奖励仇恨言论的传播，而人工智能图像的出现使这一切变得前所未有的容易。.

“X平台所做的，是其他主流平台都没有做过的，那就是向账号提供 cash 奖励来鼓励他们这样做，所以X平台上的账号会非常刻意地发布最赤裸裸的仇恨言论和虚假信息。”

兜帽。.

专家们对用户能够如此轻松地要求生成式 AI 生成内容而受到的相对缺乏限制表示担忧，这使得 Grok 可以通过“越狱”来绕过 AI 的指导方针。

一份 报告 显示，在输入不同的仇恨言论提示后，该人工智能模型生成了其中90%的内容，30%的内容是在未受到任何质疑的情况下生成的。此外，在越狱后，该模型又生成了另外50%的内容。

英超 联赛 承认知晓这些球员的照片。他们表示已指派专门团队负责查找和举报针对运动员的种族歧视行为，并称这可能引发法律诉讼。

此前，足球管理部门透露，他们在 2024 年收到了超过 1500 起辱骂举报，并已引入过滤器供球员在社交媒体账户上使用，以帮助屏蔽大量辱骂内容。.

英足总发言人表示：“歧视在我们的比赛和整个社会中都绝无容身之地。我们继续敦促社交媒体公司和相关部门打击网络暴力，并对这种不可接受行为的违法者采取行动。”.