OpenAI、AIプロジェクトを監督する安全・セキュリティ委員会を導入

OpenAIは、機械学習プロジェクトのセキュリティ強化のため、安全・セキュリティ委員会の設置を発表しました。この新たなガバナンス組織は、AIがもたらすリスクに対処する社内のスーパーアライメントチームの廃止など、組織内の最近の変更を受けて設立されました。.

委員会の発表は、同社内での一連の戦略的変更と、AGI への進歩を示唆する同社の次世代モデルのトレーニングの開始に続くものである。.

OpenAI 理事会は、すべての OpenAI プロジェクトの重要な安全性とセキュリティに関する決定について勧告を行う責任を負う安全性とセキュリティ委員会を結成しました。https ://t.co/tsTybFIl7o

— オープンAI（@OpenAI） 2024年5月28日

OpenAI、AI監視強化のための新委員会を設立

GPT-4の開発元である OpenAIは、9名からなるtronな安全・セキュリティ委員会を設立し、その体制をさらに強化しました。この委員会には、CEO兼取締役会長のサム・アルトマン氏をはじめ、アレクサンダー・マドリー氏、リリアン・ウェン氏、ジョン・シュルマン氏、マット・ナイト氏、ヤクブ・パチョッキ氏といった組織幹部が参加しています。彼らの主な責務は、AIリスク管理プロセスの運用改善です。詳細な報告書は、今後90日以内に取締役会に提出される予定です。

関連記事： アマゾンはNvidiaのAIチップにおける覇権に挑戦するのに苦戦している

OpenAIは、イリヤ・スツケヴァー氏とヤン・ライケ氏の退任、そしてAIの安全性を担当するスーパーアライメントチームの解散など、数々のリーダーシップ交代を経て、安全性監視体制を刷新しました。この組織再編は、AIイノベーションのフロンティアを拡大しつつ、AIリスク管理戦略を改善したいというOpenAIの意欲を示しています。.

OpenAIは次世代のフロンティアモデルを訓練中

OpenAIは、新委員会の設立に加え、次世代モデルと呼ぶモデルの学習を開始しました。このモデルは、既存のモデルの能力を超え、AGIの実現に近づくことを目指しています。これは、様々なタスクを効果的かつ効率的に実行できるAIソリューションを開発するという、OpenAIの継続的なミッションの一環です。OpenAIの最高技術責任者であるミラ・ムラティ氏は、GPT-4の主要なアップデートではモデルに大きな機能強化がもたらされ、技術の進歩や関連するユースケースの発展が反映される可能性があると述べています。.

関連記事： 中国のAI企業が激しい価格競争を開始

AI研究用のクラウド インフラストラクチャを提供する重要なパートナーである Microsoft の最新の知見によると、新しいモデルは大きな進歩を示すものになるとのことです。Microsoft の CTO であるトム ワーナー氏は、これを機能と規模の点で「シャチ」から「クジラ」への移行と表現しています。.

GPT-5への期待が高まる

こうしたトレンドの中、OpenAIの次世代言語モデル「GPT-5」の初期バージョンに関する噂がささやかれています。3月の報告によると、このプロトタイプを使用したユーザーは少数で、GPT-4と比較して改善が見られると述べられています。この話題は、技術系の人々だけでなく一般の人々の間でも大きな期待を生み出しており、関係者はこの新しいモデルの将来性についてより深く知ることを楽しみにしています。.

安全委員会の再編から技術の推進に至るまで、OpenAIがこれまで行ってきたことはすべて、AI開発におけるリーダーとしての地位を維持するための全体像を示しています。OpenAIは、持続可能なプラットフォームの継続的な進化と統合によって、AI技術の未来への道筋を defiするリーディングカンパニーの一つとなっています。.

クリス・ムリティによるCryptopolitan レポート