OpenAI、GPT-4の後継者を安全上の懸念を背景に準備  

OpenAIは、評判の再建を図るため、GPT-4に代わる新しいAIシステムのトレーニングを行っています。このモデルの前に、CEOのサム・アルトマン氏と他の3人の取締役が率いる安全性とセキュリティ委員会が設置されます。 

関連記事: EUデータ監視機関：ChatGPTは依然として誤情報を拡散

サンフランシスコに拠点を置く同社は、安全性へのコミットメントを示すよう圧力をかけられています。最近辞任したリスク研究者のJan Leike氏とGretchen Krueger氏は、X（旧Twitter）上でOpenAIの alleged poor safety cultureを暴露しました。

OpenAI、次世代モデルのトレーニング開始

火曜日に公開されたブログ記事で、同社は said ：

「OpenAIは最近、次世代モデルのトレーニングを開始しました。私たちは、その結果生じるシステムが、人工一般知能（AGI）への道筋において、次の段階の能力をもたらすと期待しています。」

OpenAIはGPT-4の後継機のリリース時期や機能について言及しませんでした。評価額800億ドルの同社は、Googleなどの人気企業が評判リスクを評価するために後退していた時期に、大ヒットしたAIチャットボット ChatGPT で先駆的な賭けに出ました。

OpenAIは、Anthropic、 Google、Microsoftなどが激しく競う生成AIレースで先頭を走っていますが、同社は常に倫理的な検証に耐えてきたわけではありません。

X上でOpenAIからの辞任を発表した投稿で、Leike氏は「過去数年、安全性の文化とプロセスは輝かしい製品に後回しにされてきた」と revealed しました。

Krueger氏は、同社は「意思決定プロセス、説明責任、透明性、ポリシーの執行、そして自社のテクノロジーをどのように扱うかという配慮」など、基盤的なものの改善により多くのことを行う必要があると wrote しました。

先週、欧州連合（EU）のタスクフォースは批判を rubbed in し、同社の主力製品であるChatGPTが精度基準を満たしていないと報告しました。

企業、AI安全性を主要な売り点として提示

一方、OpenAIの最新の GPT-4 model へのアップデートは、女優のスカーレット・ヨハンソンが同社による彼女の音声の無断使用を非難する高プロファイルな論争に即座に直面しました。

関連記事: OpenAI、Scarlett Johanssonの論争後、ChatGPTボイスを削除

現在、同社は安全性を今後のAIプログラムの売り点として提示することで、その高速化された主導権をラウンダリー（洗練）へと向けています。同社はまた、規制当局に対して責任あるAIの開発者として見なされることにも熱心です。ブログ記事の中で、OpenAIは次のように付け加えました：

「私たちは、能力と安全性の両面で業界をリードするモデルを構築・公開することに誇りを持っていますが、この重要な時期に活発な議論を歓迎します。」

新しい安全性とセキュリティ委員会は、取締役のAltman氏、Bret Taylor氏（議長）、Adam D’Angelo氏、Nicole Seligman氏が率います。また、準備担当責任者、安全性システム担当責任者、アライメント科学担当責任者、セキュリティ担当責任者、首席科学者も委員会に所属します。

OpenAIは、委員会が今後3ヶ月以内に「プロセスと安全策を評価し、さらに開発する」ことで、他の3人の取締役に報告すると述べています。

同社は今月初め、チームリーダーでありOpenAIの共同創設者であるIlya Sutskever氏の退任を受け、安全性チームを解散させました。

Cryptopolitan によるレポート：ジェフリー・ゴゴ