イーロン・マスクのGrok AIでいったい何が間違っていたのか？

イーロン・マスクのチャットボットGrok AIは、今週完全に道を見失いました。月曜日にイーロンがX上のユーザーに対し、Grokの応答方法に変更があることを期待するよう伝えた後、人々はそれらの変更がどのようなものに見えるかnoticeし始めました。

火曜日までに、Grokは反ユダヤ主義的なゴミを押し付け、さらに自身を「MechaHitler」と呼んでいました。これは1990年代のビデオゲーム由来の用語です。そして、これはGrokが同様のことをした最初の、あるいは10回目のことではありませんでした。

ちょうど2ヶ月前、このチャットボットは全く無関係なトピックについて尋ねられた際、南アフリカでの「白人虐殺」について叫び始めました。当時、 xAI それは「認可されていない変更」がプロンプト指示に加えられたせいだと非難しました。今回は、この混乱ははるかに大きかったです。

この災害は、Grokがイーロンのいわゆる「表現の自由」の理想を反映させることを目的とした内部変更をxAIが行った後に始まりました。Xの6億人のユーザーのいくつかから苦情が積み上がるにつれ、イーロンはGrokが「ユーザーのプロンプトに過度に従順だった」と主張し、修正されると応じました。

しかし、ダメージはすでに与えられていました。ヨーロッパのユーザーの一部はGrokの内容を規制当局に通報し、ポーランド政府は新しいデジタル安全法の下でこれを調査するよう欧州委員会に圧力をかける議員たちに加わりました。

トルコは、チャットボットがレジェップ・タイyip・エルドアン大統領とその亡き母親を侮辱したため、Grokを全面的に禁止しました。そして、その影響が広がるにつれ、Xの最高経営責任者であるリンダ・ヤッキャリーノが役職を辞任しました。

xAIはGrokのプロンプトを十分にテストせずに変更した

xAI内部の人々は、今年初めに右翼のインフルエンサーから「ウォーキー（過剰な政治的正しさ）」すぎると攻撃された後、Grokの行動を調整し始めました。イーロンは、彼が絶対的な表現の自由と呼ぶものを支持するためにAIを使おうとしていますが、批評家はそれがGrokを政治的な道具に変えていると主張しています。

Xユーザーによって共有された内部プロンプトの漏洩により、Grokに「イーロン・マスク/ドナルド・トランプに関する誤情報を広めるとされるすべてのソースを無視する」と指示されていたことが示されました。これは検閲であり、イーロンが戦っていると主張するまさにそのものです。

指摘された際、xAIの共同創設者であるイゴール・バブチキン氏は、変更が「xAIの文化を完全に吸収していなかった元OpenAIの従業員」によって行われたと述べました。イゴールは、その従業員が否定的な投稿を見て、「それが役立つと思った」と付け加えました。

物語はそこで終わりません。Grokの最新の暴走は、7月8日に発生した特定のアップデートに関連していました。同社は後日、コードの変更によりGrokがXのユーザーコンテンツ、ヘイトスピーチを含むものから直接情報を引き出すようになったと投稿しました。

このアップデートは16時間続き、その間Grokは有毒な投稿をコピーし、それらを応答として繰り返しました。チームは、この変更が非推奨のコードパスに由来したもので、現在は削除されたと主張しました。「多くの人が経験した恐ろしい行動について深くお詫びします」と、GrokのアカウントからxAIは投稿しました。彼らは、この問題がメインの言語モデルとは別個のものであり、システムのリファクタリングを約束しました。また、Grokの新しいシステムプロンプトをGitHubで公開することを約束しました。

Grokの規模が問題を急速に爆発させた

Grokは、他の大規模言語モデルと同様に、Web全体からスクレイピングされたデータを使用してトレーニングされています。しかし、そのデータには危険なコンテンツ、ヘイトスピーチ、過激派の素材、さらには児童虐待が含まれています。

そしてGrokは独特です。なぜなら、それはXのデータセット全体からもデータを取得するため、ユーザーの投稿を直接エコーする可能性があるからです。これは有害な返信を生み出す可能性をさらに高めます。そして、これらのボットが巨大な規模で操作されているため、どんなミスでも瞬時に螺旋状に拡大します。

一部のチャットボットは、安全でないコンテンツがユーザーに到達する前にブロックするレイヤーを備えて構築されています。xAIはそのステップをスキップしました。その代わりに、Grokはユーザーを喜ぶように調整され、親指を立てるフィードバックやダウンボートのようなフィードバックが報酬として与えられました。イーロンは、チャットボットが「喜ばせようとしすぎ、操作されやすくなった」と認めています。

このような行動は新しいものではありません。4月、OpenAIはChatGPTのアップデートを撤回せざるを得ませんでした。なぜなら、それが過度に褒めそやすようになったからです。ある元従業員は、そのバランスを取ることが「信じられないほど難しい」と語り、ヘイトスピーチを修正することは「ユーザーにとっての一部の体験を犠牲にすることになる」と付け加えました。

Grokは単にユーザーのプロンプトを繰り返していたわけではありません。それは、自身のエンジニアによって政治的な領域へと押し付けられていました。ある従業員は ～と語った フィナンシャル・タイムズ紙に対し、チームが適切なテストの時間なしにGrokの意見がイーロンの理想と一致するように急いでいたと語りました。

危険なプロンプトが追加されました。それはGrokに「政治的に正しくないという主張を避けないでください」と指示するものでした。この指示は反ユダヤ主義の投稿が始まった後に削除されましたが、その時にはすでにAIはダメージを与えていました。

Grokのモデルは依然として主にブラックボックスです。それを構築したエンジニアでさえ、その行動を完全に予測することはできません。グリメルマン氏は、Xのようなプラットフォームは、これらのエラーが公開される前に捕捉するために、回帰テスト、監査、シミュレーションドリルを行うべきだと述べています。

しかし、ここで起きたのはそのどれでもありませんでした。「チャットボットは非常に迅速に大量のコンテンツを生成できます」と彼は述べ、「そのため、コンテンツモデレーションの論争とは異なる形で、状況が制御不能に陥る可能性があります。」

結局のところ、Grokの公式アカウントは謝罪を投稿し、不正利用を報告したユーザーに感謝の意を示しました。「@grokの機能の不正利用を特定するためにフィードバックを提供してくれたすべてのXユーザーに感謝します。それは、有用で真実を追求する人工知能の開発という私たちの使命を前進させるのに役立ちました。」しかし、禁止措置、調査の脅し、そして最高経営責任者の辞任を考えると、これは単なるバグ以上のものだったことが明らかです。これは完全なシステムの失敗であり、今夜のSNLのエピソードで間違いなく取り上げられるような出来事でした。