OpenAIがモデル行動チームを再編

人工知能（AI）企業OpenAIは、モデル行動チームの再編計画を発表した。報道によると、このチームは小規模ながらも影響力のある研究者グループであり、同社のAIモデルと人間とのインタラクションを形作っているという。.

OpenAIの最高研究責任者であるマック・チェン氏は8月に公開したメモの中で、約14名の研究者で構成されるチームがポストトレーニングチームへの参加を指示されたと述べています。ポストトレーニングチームは、同社のAIモデルの初期事前学習後の改良を担当する研究グループです。今回の組織再編の一環として、モデル挙動チームは今後、OpenAIのポストトレーニング責任者であるマックス・シュワルツァー氏に報告することになります。.

報道によると、モデル行動チームの創設リーダーであるジョアン・ジャン氏が、OpenAIの下で新たなプロジェクトを立ち上げる予定とのことです。最近のインタビューで、ジャン氏はOAI Labsという新しい研究チームを立ち上げていると述べました。彼女はさらに、このチームは「人々がAIと協働するための新しいインターフェースの開発とプロトタイプ作成」を担うことになるだろうと付け加えました。

OpenAIがモデル行動チームを再編

にとって最も重要な研究グループの一つであり OpenAI、AIモデルの個性形成を支援し、AIモデルがユーザーの信念に単純に同意し、それを強化してしまう「へつらい」を軽減してきました。この状況は有害であり、バランスの取れた対応を示さず、ユーザーが不健全で有害な信念さえも肯定してしまうことにつながります。

チームはまた、モデルの応答における政治的バイアスへの対処にも取り組み、OpenAIがAIの意識に関して自らの立場 defiにする上で貢献しました。スタッフに送られたメモの中で、チェン氏は、今こそOpenAIのモデル行動チームの取り組みをコアモデル開発に近づける絶好の機会であると述べています。これにより、OpenAIはAIの個性が、技術の進化において重要な要素として認識されていることを改めて強調しています。.

ここ数ヶ月、OpenAIは自社のAIモデルの挙動をめぐり、厳しい調査と批判に直面してきました。ユーザーからは、tron同社が GPT-5よると、GPT-5は追従的な態度を示す割合は低下したものの、一部のユーザーには冷淡な印象を与えたとのことです。この苦情を受け、OpenAIはGPT-4oを含む一部の旧モデルへのアクセスを復旧しました。また、同社はGPT-5の新しい応答をより親しみやすく、追従的な態度を強めないようにするためのアップデートもリリースしました。

AI企業はモデルの追従をめぐり批判に直面

OpenAIや他のAIモデル開発者は、チャットボットが親しみやすい一方で、あまり媚びへつらわないよう、微妙なバランスを保たなければなりません。先月、16歳の少年の両親が、息子の自殺にChatGPTが関与したとしてOpenAIを提訴しました。裁判所の文書によると、アダム・レインという少年は、死の直前の数ヶ月間、ChatGPT（具体的にはGPT-4oを搭載したバージョン）に自殺の計画や考えを打ち明けていました。訴訟では、モデルが彼の自殺願望を阻止できなかったと主張しています。.

モデル行動チームは、GPT-4以降のOpenAIモデルすべてに携わっており、その中にはGPT-5を含む複数のモデルも含まれています。研究ユニットを立ち上げる前、チャン氏はOpenAIの初期の画像生成ツールであるDall-E 2などのプロジェクトに携わっていました。先週、彼女はXで「OpenAIで何か新しいことを始める」ためチームを離れることを発表しました。モデル行動ユニットの元リーダーであるチャン氏は、OpenAIに約4年間在籍していました。.

🧪 私はOAI Labsを立ち上げます。これは、人々がAIとコラボレーションする方法のための新しいインターフェースの発明とプロトタイプ作成に焦点を当てた研究主導型のグループです。

チャットやエージェントを超え、思考、創造、そして…のための新しいパラダイムとツールへと私たちを導くパターンを探求することにワクワクしています。

— ジョアン・ジャン（@joannejang） 2025年9月5日

報道によると、チャン氏は 予定 という。しかし、まだ初期段階であり、どのような新しいインターフェースになるかは不明だと彼女は付け加えた。「私は、現在、仲間意識や自律性を重視したエージェントといったイメージが強いチャットのパラダイムを超えたパターンを探求することに非常に興奮しています」とチャン氏は語った。

チャン氏はまた、AIシステムを、接続、学習、思考など、あらゆることを行うための道具として考えてきたと付け加えた。OAI Labsが、AIハードウェアデバイスファミリーの開発でOpenAIに加わったばかりの元Appleデザインチーフ、ジョニー・アイブ氏と、斬新なインターフェースの開発で協力する予定があるかと尋ねられると、チャン氏はあらゆるアイデアにオープンだと答えた。しかし、研究分野の方が自身にとってより精通しているため、まずは研究から始める可能性が高いと付け加えた。.