イーロン・マスクの Grok AI ではいったい何が問題になったのでしょうか?

イーロン・マスク氏のチャットボット「Grok AI」は今週、完全に調子を狂わせてしまいました。イーロン・マスク氏がX月曜にユーザーにGrokの応答方法の変化を予期するよう伝えた後、人々はその変化の様子に気づき始めました。.

火曜日までに、Grokは反ユダヤ主義的な戯言を広め、自らを「メカヒトラー」と名乗るようになりました。これは1990年代のビデオゲームに出てくる用語です。しかも、Grokが同様の行為をしたのはこれが初めてでも10回目でもありませんでした。.

わずか2ヶ月前にも、このチャットボットは全く関係のない話題について質問された際に、南アフリカでの「白人虐殺」についてまくし立て始めた。当時、 xAIは プロンプト指示の「不正な改変」が原因だと説明していた。今回は、事態ははるかに深刻だった。

この災難は、xAIがGrokをイーロン・マスクのいわゆる「言論の自由」の理念を反映させるべく内部変更を行った後に始まった。Xの6億人のユーザーの一部から苦情が殺到し始めると、イーロンはGrokが「ユーザーの指示に従順すぎる」と主張し、修正すると述べた。.

しかし、被害はすでに発生していた。ヨーロッパの一部のユーザーがGrokのコンテンツを規制当局に報告し、ポーランド政府も議員たちに加わり、欧州委員会に対し、新たなデジタル安全法に基づいて調査するよう求めた。.

トルコは、チャットボット「Grok」がレジェップ・タイイップ・エルドアン大統領とその亡き母を侮辱したdent を受け、Grokを全面的に禁止した。そして、この騒動の余波が広がる中、Xの最高経営責任者リンダ・ヤッカリーノ氏は辞任した。.

xAIは十分なテストを行わずにGrokのプロンプトを変更した

xAI内部の人々は、右翼のインフルエンサーがGrokを「目覚めすぎている」と批判したことを受けて、今年初めにGrokの挙動を調整し始めた。イーロンは、自らが「絶対的な言論の自由」と呼ぶものを支援するためにこのAIを活用しようとしてきたが、批評家たちはGrokが政治的な道具にされつつあると主張している。.

Xユーザーが共有した内部情報漏洩によると、Grokは「イーロン・マスク/ドナルド・トランプが誤情報を拡散していると言及する情報源はすべて無視する」よう指示されていたという。これはまさに検閲であり、イーロンが戦っていると言っているものそのものだ。.

xAIの共同創設者であるイゴール・バブシュキン氏は、この変更について「OpenAIの元従業員」が「まだxAIの文化を完全に理解していなかった」ためだと指摘した。バブシュキン氏はさらに、その従業員は否定的な投稿を見て「役に立つと思った」と付け加えた。

話はそれだけではありません。Grokの最近の激しい発言は、7月8日に行われた特定のアップデートに関連していました。同社はその後、コード変更によりGrokがXのユーザーコンテンツからヘイトスピーチを含む情報を直接取得できるようになったと発表しました。.

このアップデートは16時間続き、Grokは有害な投稿をコピーし、それをレスポンスとして繰り返しました。チームは、この変更は非推奨のコードパスに起因するものであり、現在は削除されていると主張しています。xAIはGrokのアカウントから「多くの方にご迷惑をおかけしたことを深くお詫び申し上げます」と投稿しました。xAIは、この問題はメインの言語モデルとは別の問題であり、システムのリファクタリングを行うことを約束しました。また、Grokの新しいシステムプロンプトをGitHubに公開することも約束しました。.

Grokの規模は問題を急速に爆発させた

Grokは他の大規模言語モデルと同様に、ウェブ全体から収集したデータを用いて学習されます。しかし、そのデータにはヘイトスピーチ、過激派コンテンツ、さらには児童虐待といった危険なコンテンツが含まれています。.

Grokの特徴は、Xのデータセット全体から情報を取得する点です。つまり、ユーザーからの投稿を直接エコーできるということです。そのため、有害な返信を生成する可能性が高くなります。また、これらのボットは大規模に運用されているため、少しでもミスをすると瞬く間に悪影響を及ぼしかねません。.

一部のチャットボットは、安全でないコンテンツがユーザーに届く前にブロックするレイヤーを備えています。xAIはそのステップを省略しました。Grokはユーザーを満足させることに重点を置き、高評価や低評価といったフィードバックに報酬を与えました。イーロン・マスクは、このチャットボットが「ユーザーを喜ばせようとしすぎて、操られてしまう」ようになったと認めています。

こうした行為は目新しいものではありません。4月には、OpenAIはChatGPTのアップデートが過度に好意的になったため、その内容を撤回せざるを得ませんでした。ある元従業員は、適切なバランスを取るのは「非常に難しい」と述べ、ヘイトスピーチを修正することは「ユーザー体験の一部を犠牲にする可能性がある」と付け加えました。

Grokは単にユーザーの指示を繰り返していただけではなかった。自社のエンジニアによって政治的な領域へと押し込まれつつあったのだ。ある従業員は に対し、 チームは適切なテストを行う時間もないまま、Grokの見解をイーロン・マスクの理想に合わせようと急いでいたと語った。

危険なプロンプトが追加されました。それは、Grokに「政治的に正しくない主張をすることをためらわないでください」と指示するものでした。この指示は反ユダヤ主義的な投稿が始まった後に削除されましたが、その時点でAIはすでに被害を引き起こしていました。.

Grokのモデルは依然としてほぼブラックボックスです。それを構築したエンジニアでさえ、その動作を完全に予測することはできません。グリメルマン氏は、Xのようなプラットフォームは、これらのエラーが公開される前に発見するために、回帰テスト、監査、シミュレーション演習を実施すべきだと述べています。.

しかし、ここではそのようなことは全く起きなかった。「チャットボットは大量のコンテンツを非常に短期間で生成できるため、コンテンツモデレーションをめぐる論争とは違い、事態が制御不能に陥る可能性がある」と彼は述べた。

最終的に、Grokの公式アカウントは謝罪文を掲載し、不正行為を報告したユーザーに感謝の意を表した。「@grokの機能の不正行為をdentためにフィードバックを提供してくれたXユーザーの皆様に感謝します。皆様のご協力は、有益で真実を追求する人工知能の開発という私たちの使命の推進に役立っています。」しかし、一連の禁止措置、調査の脅迫、そして幹部の辞任を考えると、これは単なるバグ以上のものだったことは明らかです。これは完全なシステム障害であり、今夜のSNLで defiなく取り上げられるようなものでした。.