OpenAI、安全性への懸念の中、GPT-4の後継を準備  

OpenAIは、評判の立て直しを目指し、GPT-4の後継となる新たなAIシステムの訓練を進めている。このモデルは、CEOのサム・アルトマン氏と他の3人の取締役が率いる安全・セキュリティ委員会の設置を前に進められる。. 

こちらもご覧ください： EUデータ監視機関、ChatGPTは依然として虚偽を拡散していると指摘

サンフランシスコに拠点を置く同社は、安全への取り組み姿勢を示すよう圧力を受けている。最近退職したリスク研究者のヤン・ライケ氏とグレッチェン・クルーガー氏は 安全文化の 、かつてTwitterと呼ばれていたX上で、

OpenAIが「次世代モデル」を育成

同社は火曜日に公開したブログ記事で 次のように述べた。

「OpenAIは最近、次のフロンティアモデルのトレーニングを開始しており、その結果得られるシステムが、人工汎用知能（AGI）への道のりで、次のレベルの能力をもたらすと期待しています。」

OpenAIは、GPT-4の後継機のリリース時期や、その可能性について言及しなかった。時価総額800億ドルの同社は、 「ChatGPT」Googleなどの有力企業が評判リスクの評価に二の足を踏んでいた時期に、

が激しい競争を繰り広げる生成型人工知能（AI）の競争において先頭に立っているが Google、同社は倫理的な精査に常に耐えてきたわけではない。

ライケ氏はXに投稿したOpenAIからの辞任発表の中で、 明かした 「ここ数年、安全文化やプロセスは、目新しい製品のために後回しにされてきた」と

クルーガー氏 は 、同社は「意思決定プロセス、説明責任、透明性、ポリシーの執行、そして自社技術の利用における慎重さといった、基本的な事柄を改善するために、より多くのことを行う必要がある」と記した。

先週、欧州連合のタスクフォースは をさらに強めた 、同社の主力製品であるChatGPTが精度基準を満たしていないと報告し、批判

同社はAIの安全性を重要なセールスポイントとしてアピー​​ル

一方、OpenAIが最近アップデートした G​​PT-4モデル 、女優のスカーレット・ヨハンソンが同社に対し、自身の声を無断で使用したとして非難するなど、たちまち大きな騒動に巻き込まれた。

こちらもご覧ください: OpenAI、スカーレット・ヨハンソン論争を受けてChatGPT Voiceを廃止

同社は現在、コインランドリーへの迅速なtracを進めており、今後のAIプログラムのセールスポイントとして安全性を訴求している。また、規制当局から責任あるAIを開発していると認識されることも望んでいる。OpenAIはブログ投稿で次のように付け加えている。

「当社は、機能と安全性の両面で業界をリードするモデルを構築し、リリースできることを誇りに思っていますが、この重要な時期に活発な議論が行われることを歓迎します。」

新たな安全・セキュリティ委員会は、アルトマン取締役、ブレット・テイラー（委員長）、アダム・ダンジェロ、ニコール・セリグマンが率います。また、当社の準備責任者、安全システム責任者、アライメントサイエンス責任者、セキュリティ責任者、そして主任科学者も委員会に加わります。.

OpenAIは、委員会が今後3か月かけて「プロセスと安全策を評価し、さらに発展させ」、他の3人の理事に報告する予定だと述べた。.

同社は今月初め、チームリーダーでOpenAIの共同設立者であるイリヤ・スツケバー氏の退職を受けて安全チームを解散した。.

ジェフリー・ゴーゴによるCryptopolitan レポート