OpenAI、AIプロジェクトを監督するための安全・セキュリティ委員会を導入

機械学習プロジェクトのセキュリティを強化するため、OpenAIは安全性とセキュリティ委員会の設立を発表しました。この新しいガバナンス機関は、AIがもたらすリスクに対処する内部スーパーアライメントチームの廃止など、組織内の最近の変更を背景に誕生しました。

委員会の設立発表は、同社の次世代モデルのトレーニング開始という一連の戦略的変更の直後に行われ、AGIへの進展を示唆しています。

OpenAIの取締役会は、すべてのOpenAIプロジェクトの重要な安全性およびセキュリティに関する決定に対する推奨を行う安全性とセキュリティ委員会を設立しました。 https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 5月 28、2024

OpenAI、AIの監視強化のための新委員会を導入

GPT-4の開発者である OpenAI は、9人のメンバーで構成される安全性とセキュリティ委員会を設立することで、さらにゲームを強化しました。このパネルには、組織の執行役員が含まれます。CEOおよび取締役会会長であるSam Altman氏、Aleksander Madry氏、Lilian Weng氏、John Schulman氏、Matt Knight氏、Jakub Pachocki氏です。彼らの主な責任は、AIリスク管理プロセスの処理を改善することです。詳細な報告書は、今後90日以内に取締役会に提出される予定です。

関連記事: AmazonはNvidiaのAIチップ支配権に挑戦することに苦戦

OpenAIの安全性監督体制の変更は、Ilya Sutskever氏やJan Leike氏の退任、およびAI安全性を担当するスーパーアライメントチームの解散など、多数のリーダーシップ変更の直後に行われました。この再編成は、OpenAIがAIリスク管理戦略を改善し、AIイノベーションの最前線を広げたいという欲求を示しています。

OpenAI、次世代モデルのトレーニング開始

新しい委員会の他にも、OpenAIは彼らが「次世代モデル」と呼ぶもののトレーニングを開始しました。このモデルは、現在のモデルの能力を超え、AGIの達成に近づけることを目的としています。この動きは、さまざまなタスクを効果的かつ効率的に実行できるAIソリューションを作成するという彼らの継続的なミッションの一部です。OpenAIの最高技術責任者（CTO）であるMira Murati氏は、GPT-4の主要なアップデートはモデルの大幅な強化を示し、技術および関連するユースケースにおけるそのような開発を反映する可能性があることに言及しました。

関連記事: 中国のAI企業、激しい価格競争を開始

AI研究用のクラウドインフラを提供する重要なパートナーであるMicrosoftからの最新の洞察によると、新しいモデルは大きな進歩を表すものであり、MicrosoftのCTOであるTom Warner氏は、その能力と規模において「オルカ」から「クジラ」への移行と特徴づけています。

GPT-5 に関する期待が高まる

これらの傾向の中で、GPT-5とラベル付けされたOpenAIの次世代言語モデルの初期バージョンに関する囁きがあります。3月のレポートによると、このプロトタイプを使用したのは少数のユーザーだけであり、GPT-4と比較して改善点があると述べられていました。この評判は、利害関係者がこの新モデルの展望についてもっと知ることを楽しみにしているため、テクノロジーに精通した層や一般大衆の間で大きな期待を生み出しています。

OpenAIが行ってきたこと、安全性ボードの再編から技術の推進まで、すべてがAI開発のリーダーとしての地位を維持するという大きな絵を示しています。OpenAIの絶え間ない進化と持続可能なプラットフォームの統合は、AI技術の未来への道筋を定義するのを助ける主要企業の1つであることを示しています。

クリス・ムリティによるCryptopolitanレポート