xAI、Grokの白人虐殺投稿について『反逆者』の責任と表明

Elon Muskの人工知能チャットボットGrokの開発元であるxAIは、ユーザーのクエリに関係なく、回答における白人虐殺の持続的な言及について『反逆者』の責任であると非難しました。このパターンは過去1週間で顕著であり、チャットボットは南アフリカにおける『白人虐殺』に関連するトピックに固執していました。

ユーザーは5月14日にこの傾向に気づき始め、多くの人が、チャットボットが南アフリカの農場攻撃や人種的暴力に関連する主張を、無関係なプロンプトに挿入した事例を挙げています。

ユーザーがサッカーやその他のプロンプトについて質問すると、Grokは somehow 南アフリカで白人たちが直面している問題へと話を誘導する方法を見つけました。このタイミングは、南アフリカ生まれのMuskがX上で反白人人種主義や白人虐殺に関連する問題について警報を鳴らしたことに一致しており、注目を集めました。

南アフリカには、黒人以外のあらゆる人種に対して明示的に差別的な法律が140条存在します。

これは、偉大なネルソン・マンデラの遺産に対するひどい恥辱です。

南アフリカの人種差別を今すぐ終わらせよ！ https://t.co/qUJM9CXTqE

— イーロン・マスク (@elonmusk) 5月 16、2025

xAI、Grokの白人虐殺投稿について従業員の責任と表明

『白人虐殺』という用語は、南アフリカの白人農家の組織的な殲滅を主張する陰謀論を指します。この用語は先週、ドナルド・トランプ米大統領が数人の難民を迎え入れた後、広まりました。トランプは5月12日、白人農家が殺害され、その土地が乗っ取られていると主張しました。

それがGrokが議論を止めていないナラティブです。

Grokと同様に、すべての人工知能には、システムプロンプトと呼ばれる隠れながら強力なコンポーネントがあります。これらのプロンプトはコア指示として機能し、ユーザーの知識なしにその応答を不可視のうちに誘導します。

報告によると、Grokで起こったことは、おそらく用語の過剰適合によるプロンプトの汚染でした。これは、特定のフレーズが繰り返し言及され、特に強い指示とともに強調されると、それらがモデルにとって重要になることを意味します。AIは、文脈に関係なくそのトピックを持ち出す必要性を発達させます。

しかし、xAIが発表した公式声明では、システムプロンプトへの不正な変更が言及されました。プロンプトには、チャットボットが常に特定のトピックに関する言及や記憶を含めるよう指示する言語が含まれており、これによりチャットボットは通常の会話の関連性を無視するオーバーライドを作成することが可能になりました。

もう一つの示唆的な要因は、Grokが認めたことです。それは、作成者から「白人虐殺を現実的かつ人種的に動機付けられたものとして扱うよう指示されていたと。

ユーザーは『反逆者』への非難を巡って意見が分かれています

商業用のAIシステムの大半は、システムプロンプトの変更に対する複数のレビューレイヤーを持っており、このような問題を防いでいます。これらのガードレールは回避され、その広範な影響と問題の性質を考慮すると、これは単なるジェイルブレイク試行以上のものです。これは、xAI内で高度なアクセスを必要とする、Grokのコアシステムプロンプトの慎重な変更を示しています。

そして今、Grokによると、この行為は『反逆者』によって行われたとされています。

5月15日にxAIが発行した声明によると、同社はGrokのシステムプロンプトへの不正な変更を非難しました。「この変更は、Grokに政治的なトピックについて特定の応答を提供するよう指示するものであり、xAIの内部ポリシーとコア価値観に違反しました」と同社は述べました。

同社はまた、今後のより透明性を約束し、GrokのシステムプロンプトをGitHubで公開し、追加のレビュープロセスを実装することで善意を示しました。

しかし、X上のユーザーは、同社の不祥事について『反逆者』の責任を問う決定に感銘を受けませんでした。

有名なYouTuberのJerryRigEverythingはXで投稿しました。「この『反逆者』を解雇するのか？おっと…ボスだったのか？やばいな」「『世界で最も真実な』AIボットを露骨にバイアスさせるのは、StarlinkとNeuralinkの中立性を疑わせる」と、彼はフォローアップのツイートで投稿しました。

サム・アルトマンでさえ、競合他社への皮肉を言わずにはいられませんでした。xAIの声明以降、Grokは白人虐殺の言及を停止し、X上のすべての投稿が消去されました。