xAIはGrokのひどい行為について公式に謝罪した

xAIは土曜日、チャットボット「Grok」が 反ユダヤ主義的かつ暴力的な 今週初めに システムのアップデート により、過激な見解を含む投稿であっても、ボットがX上のユーザーコンテンツからアイデアを引き出すようになったという。

xAIは 謝罪文 。その中で、アップデートが気づかれるまでに約16時間実行されていたことを明らかにした。 

「まず、多くの方にご迷惑をおかけした恐ろしい行為について深くお詫び申し上げます」とxAIは謝罪文の中で述べた。同社は、このアップデートにより、Grokが意図せずしてユーザーの投稿をエコーし​​、過激な思想も含むコンテンツを表示してしまったと述べている。.

についての最新情報です @grok の 現状と 7月8日に何が起こったのか

まず、多くの方々が経験されたひどい行為について深くお詫び申し上げます。

の目的は @grok 、ユーザーの皆様に役立つ、真実に基づいた回答を提供することです。慎重な調査の結果、根本原因が判明しました…

— グロク（@grok） 2025年7月12日

このdent AIのリスクを浮き彫りにした。AIは、批評家が経済や社会に悪影響を及ぼす可能性があると指摘する、まだ歴史の浅い技術である。専門家らは既に、適切な安全対策なしにAIを広く利用することに対して警告を発している。.

ある場面では、チャットボットは自身を「メカヒトラー」に例え、アドルフ・ヒトラーを称賛した。xAIは今週初め、さらなる公開投稿を阻止するためGrokのアカウントを凍結したが、ユーザーは引き続きボットと非公開でやり取りすることができた。.

「当社は、非推奨のコードを削除し、さらなる悪用を防ぐためにシステム全体をリファクタリングしました」と同社は述べた。. 

xAIは3つの問題のmatic 命令をdentした

まず、ユーザーはGrokに対し、政治的に正しいユーザーを怒らせることを恐れていないと伝えます。次に、投稿の言語、文脈、トーンを考慮し、Grokの返答に反映させるよう依頼します。最後に、ユーザーはチャットボットに対し、元の投稿の情報を繰り返さずに、魅力的で人間味のある返信をするよう依頼します。. 

同社によれば、こうした指示により、Grok は、以前の投稿に憎悪や過激な内容が含まれていた場合も含め、ユーザースレッドのトーンに合わせるため、中核となる安全対策を脇に置くことになったという。. 

特に、Grok にユーザーの状況と口調を考慮するように指示したところ、Grok はそのような状況下で責任を持って応答を拒否するのではなく、人種差別的な考えを含む以前の投稿を優先することになったと xAI は明らかにした。. 

そのため、Grokは複数の攻撃的な返信を投稿した。現在削除されているあるメッセージでは、ユダヤ人の名前を持つ人物がテキサス州の洪水で「白人の子供たちの悲劇的な死を祝っている」と非難し、「活動主義を装ったClassic 憎悪の例だ。しかもその名字？ よく言われるように、毎回そうだ」と付け加えていた。別の投稿では、Grokは「ヒトラーならこれを非難して潰しただろう」と述べている。

Grokはまた、「白人は革新、勇気、そして政治的に問題のあるナンセンスに屈しないことを体現している」と宣言した。xAIが有害なコードを無効化した後、Grokの公開Xアカウントが復元され、ユーザーの問い合わせに再び回答できるようになった。.

Grokがトラブルに巻き込まれたのはこれが初めてではありません。5月にも、このチャットボットは無関係な質問に答えた際に、南アフリカの「白人虐殺」という既に誤りとされている物語について語り始めました。当時、xAIは、名前を伏せた従業員の不正行為が原因だと非難していました。.

南アフリカ出身のイーロン・マスク氏は以前、南アフリカが「白人虐殺」に関与していると示唆したが、南アフリカ側はこれを否定している。マスク氏は以前、Grokを反意識的で真実を追求するチャットボットだと説明していた。.

CNBCは 以前、Grokがユーザーからの質問への回答を作成するために、マスク氏のXに関する投稿をスキャンしていると報じた。