最新ニュース
あなたへのおすすめ

OpenAI、モデル行動チームを再編

著者Owotunse AdebayoOwotunse Adebayo 3分で読了
OpenAI、モデル行動チームを再編

Zac Wolff氏による写真、提供:Unsplash

  • OpenAIは、Model Behaviorチームを再編し、Post Trainingチームに統合する計画を発表しました。
  • Model Behaviorチームは現在、OpenAIのPost Training責任者であるMax Schwarzerに報告します。
  • AI企業は、そのモデルの親和性や迎合的な態度について、ますます批判に晒されています。

人工知能企業OpenAIは、モデル行動チームの再編計画を発表しました。報告によると、このチームは、同社のAIモデルが人々とどのように相互作用するかを形作る、小規模ながら影響力のある研究者グループです。

8月に公開されたメモで、OpenAIのチーフリサーチオフィサーであるMak Chenは、約14人の研究者で構成されるこのチームが、ポストトレーニングチームに参加するよう指示されたと述べました。ポストトレーニングチームは、初期の事前トレーニング後に同社のAIモデルを改善する責任を持つ研究グループです。再編の一環として、モデル行動チームは теперь OpenAIのポストトレーニング責任者であるMax Schwarzerに報告することになります。

報告によると、モデル行動チームの創設リーダーであるJoanne Jangは、OpenAIの下で新しいプロジェクトを開始するために移動します。最近のインタビューで、Jangは「OAI Labs」と呼ばれる新しい研究チームを構築していると述べました。彼女は、このチームが「人々がAIと協力するための新しいインターフェースを発明し、プロトタイピングする」責任を負うと付け加えました。

OpenAIがモデル行動チームを再編

モデル行動チームは、OpenAIにとって最も重要な研究グループの一つであり、同社のAIモデルの性格形成を支援し、シコファンシー(AIモデルがユーザーの信念に単純に同意し、強化してしまう状態)を減少させることに貢献しています。この状態は有害です。なぜなら、AIがバランスの取れた応答を提供するのではなく、ユーザーが不健康で有害な信念を強化することを助けるからです。

このチームはまた、モデル応答における政治的バイアスのナビゲーションに取り組み、AIの意識に関するOpenAIの立場を定義するのを支援してきました。スタッフに送られたメモで、Chenは、OpenAIのモデル行動チームの作業をコアモデル開発に近づけるのに最適な時期だと述べました。これにより、同社はAIの性格が技術の進化において重要な要素と見なされていることを確認しています。

過去数ヶ月、OpenAIはそのAIモデルの行動について審査と批判に直面してきました。ユーザーは、GPT-5に対して同社が行った性格変更に対して強く反対しました。同社はシコファンシーの率が低下したと主張していましたが、一部のユーザーには冷たく感じられました。この苦情を受け、OpenAIはGPT-4oを含むいくつかのレガシーモデルへのアクセスを復元しました。また、同社はシコファンシーを増加させることなく、新しいGPT-5の応答をよりフレンドリーに感じさせるための新しいアップデートもリリースしました。

AI企業がモデルのシコファンシーについて批判に直面

OpenAIおよび他のAIモデル開発者は、チャットボットがフレンドリーだが過度にシコファンティック(お世辞屋)にならないようにするために、微妙なバランスを取る必要があります。先月、16歳の少年の両親は、ChatGPTが息子の自殺に果たした alleged な役割を理由にOpenAIを裁判所に訴えました。裁判所の文書によると、10代の少年であるAdam Raineは、死亡の数ヶ月前に、ChatGPT(具体的にはGPT-4o搭載のバージョン)に自殺計画や考えを打ち明けました。訴訟では、モデルが彼の自殺的な考えに対して反論しなかったと主張されています。

モデル行動チームは、GPT-4以降のすべてのOpenAIモデル、およびGPT-5を含むいくつかのモデルに携わってきました。研究ユニットを始める前に、JangはDall-E 2(OpenAIの初期の画像生成ツール)などのプロジェクトで以前に働いていました。先週、彼女はXで「OpenAIで新しい何かを始めるために」チームを離れると発表しました。モデル行動ユニットの元リーダーは、同社で約4年間勤務していました。

報告によると、JangはOAI Labsのゼネラルマネージャーとして期待されています。OAI Labsは当面Chenの直轄となります。しかし、彼女はまだ初期段階であり、それらの革新的なインターフェースがどのようなものかは不明だと付け加えました。「私は現在、伴侶関係や自律性を重視するエージェントに関連付けられていることが多いチャットパラダイムを超えて進むパターンを探求することに非常に興奮しています」とJangは述べています。

Jangはまた、AIシステムを、接続、学習、思考など、あらゆることを行うための道具として考えていると付け加えました。OAI Labsが、OpenAIに家族の一員としてAIハードウェアデバイスで参加したばかりの元AppleデザインチーフであるJony Iveと革新的なインターフェースで協力することが期待されているかどうか尋ねられた際、Jangはあらゆるアイデアにオープンだと答えました。しかし、彼女はより慣れ親しんだ分野である研究から始める可能性が高いと付け加えました。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。

免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。

Owotunse Adebayo

Owotunse Adebayo

アデバヨは、暗号通貨分野で4年の経験を持つライターです。ラゴス大学で都市・地域計画を専攻し、卒業しました。アデバヨは以前、TokenhellやCryptoTickerで暗号通貨およびフィンテックのニュース記事を書いていました。現在はCryptopolitanのニュース寄稿者として活動しています。

もっと見る… ニュース