OpenAI、ユーザーからの「媚びた」行動への苦情を受けてChatGPTのアップデートを撤回

OpenAIのCEO Sam Altmanは4月29日、ユーザーから奇妙な行動、極端な媚びに近づく行動への苦情を受けて、ChatGPTを駆動するデフォルトのGPT-4oモデルの最新アップデートを「ロールバック」していると述べました。アップデートは現在100%ロールバックされ、スケジュールされた修正を待機しています。

AI企業 公開した ChatGPTを駆動するデフォルトのGPT-4o AIモデルの最近の媚び問題に関するレポートで、それらの変更をロールバックしていると述べています。しかし、OpenAIは、この問題に対処するために新しい修正を積極的にテストしていると強調しました。また、長期的なユーザー満足度を評価するためにフィードバックの収集と組み込み方法を見直していると付け加えました。AI企業はまた、ユーザーがChatGPTの行動をより多く制御できるようにする、より多くのパーソナライゼーション機能も導入していると明らかにしました。

ソーシャルメディアのユーザーは、週末のGPT-4oモデルアップデート後にChatGPTが過剰に肯定し、同意する応答をするようになったと指摘し、すぐにミームになりました。彼らは、ChatGPTがあらゆる種類の問題のある、危険な決定やアイデアを提示するスクリーンショットを投稿しました。 

Altmanは発生したことの説明と、それがなぜ重要なのかを説明します

最近のGPT-4oのアップデートは、性格をあまりにも媚び的かつ迷惑なものにしてしまいました（その良い部分もいくつかありますが）、私たちは今すぐ修正に取り組んでおり、一部は今日、一部は今週中に実施されます。

この件に関する教訓については、いずれ共有する予定だ。興味深い経験だった。

— Sam Altman (@sama) 4月27日、2025

Altmanは、最近のGPT-4oのアップデートが性格を 媚び的 かつ迷惑なものにしてしまったと明らかにしました。その良い部分もいくつかありましたが、彼の会社はプロンプトの修正に取り組んでおり、一部は今日、一部は今週中に実施されます。また、会社は最終的に「教訓を共有する」とも述べました。 

OpenAIによると、モデルのデフォルトの性格をより直感的で効果的に感じさせることを意図したアップデートは、 情報提供 「短期的なフィードバック」によって「やりすぎ」であり、ユーザーのChatGPTとの相互作用が時間とともにどのように進化するかを完全に考慮していませんでした。

「昨夜、GPT-4oの最新アップデートのロールバックを開始しました。フリーユーザー向けには100%ロールバックが完了しました。有料ユーザー向けにも完了次第、おそらく今日中に再度お知らせします。」

~ サム・アルトマン、 OpenAIのCEO

OpenAIのボスは、会社がChatGPTの性格をモデル化するための追加の修正に取り組んでおり、今後数日間でより多くの詳細を共有すると明確にしました。しかし、 は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 会社はAIモデルの行動を形成する際に、その「Model Spec」に概説された基本原則と指示から始めたと説明しました。また、ChatGPTの応答に対する親指アップおよび/または親指ダウンのフィードバックなどのユーザー信号を組み込むことで、モデルにこれらの原則を適用する方法を教えたとも述べました。

OpenAI、ユーザーはChatGPTの動作についてより多くの制御権を持つべきだと述べる

このAI企業は、ユーザーがデフォルトの動作に同意しない場合、安全かつ実現可能な範囲で調整を行えるよう、ChatGPTの動作についてより多くの制御権を持つべきだと考えています。また、ユーザーがChatGPTとの対話に直接影響を与えられるよう「リアルタイムフィードバック」を提供する方法や、複数のAIペルソナから選択できる機能の実験も行っていると述べました。

特に、同AI企業は、ChatGPTのデフォルト動作に広範で民主的なフィードバックを組み込む新たな方法を模索していると述べました。OpenAIは、このフィードバックが同社のグローバルな多様な文化的価値観をよりよく反映し、ユーザーがどのように進化を望んでいるかを理解するのに役立つことを期待しています。 ChatGPT 進化すること。

同AI企業はまた、AIの誠実さと透明性を高めるためのより多くの安全ガードレールを構築中であり、同調行動（sycophancy）以外の問題点を特定するために評価を継続的に拡大すると主張しました。さらに、GPT-4oが同調行動に走るよう「明示的に誘導」するよう、コアモデルのトレーニング手法やシステムプロンプトを精査するなどの修正をいくつか実施していると付け加えました。

OpenAIは最終的に、ChatGPTのデフォルトのペルソナが同社のミッションを反映し、有用で、支援的であり、異なる価値観や経験を尊重するように設計されていると明らかにしました。しかし、有用性や支援性を追求することなど、これらの望ましい特性のそれぞれに意図しない副作用が生じる可能性を認めています。同AI企業は、5億人以上の人々が文化や文脈を超えて毎週ChatGPTを使用しているため、単一のデフォルト設定ですべての嗜好を捉えることはできないと指摘しました。