サム・アルトマン氏、監視の渦中にあるOpenAIの安全委員会を辞任

OpenAIのCEOであるサム・アルトマン氏が、重要な安全上の決定を監督するために5月に設立された社内の安全保障委員会を辞任した。 アルトマン氏の辞任は、米国の議員やOpenAIの元従業員が同社の安全性と法令遵守について懸念を表明していた時期に起こった。

安全・セキュリティ委員会は、今後、安全とセキュリティの問題を監視する独立した取締役会レベルの委員会として機能します。この変更により、カーネギーメロン大学教授のジーコ・コルター氏が委員長に任命され、QuoraのCEOアダム・ダンジェロ氏、退役米陸軍大将ポール・ナカソネ氏、ソニー元幹部ニコール・セリグマン氏も加わります。彼らは全員、現在OpenAIの取締役会のメンバーです。委員会は、安全上の懸念が解決されるまで、AIモデルのリリースを差し控える権限を引き続き保有します。 

主要スタッフが退職する中、批評家はOpenAIの優先順位に疑問を呈している

アルトマン氏の退任後、OpenAIはブログ記事で安全性への注力を改めて表明し、委員会が最新モデルであるo1の安全性を既に承認していることを指摘した。また、委員会は今後、AIモデルのリリースに関する最新情報をメンバーに提供するため、同社の安全・セキュリティ担当者から定期的に追加情報を受け取る予定である。さらに、技術レビューの実施やモデルリリースの明確な目標設定により、安全対策を強化していく意向も表明した。

これは、特に夏に同社の安全対策に懸念を表明した 5人の米上院議員からの批判を受けてのことだ。批判者たちはまた、 AIの長期的な影響に対処する任務を負っていたスタッフの半数以上が会社を去ったことも指摘している。アルトマン氏は、AIの規制よりもビジネス面の方を重視しているという意見もある。

OpenAIの支出は増加傾向にあります。2024年上半期には、連邦政府へのロビー活動に80万ドルを費やしました。これは、2023年通年の26万ドルと比較して大幅な増加です。アルトマン氏は今年初め、米国国土安全保障省の人工知能安全・セキュリティ委員会の委員に就任しました。この委員会は、国の重要システムにおけるAIの活用について助言を行うことになっています。 

AI大手OpenAIの自主規制については、依然として疑問が残っている。エコノミスト誌に寄稿した論説の中で、OpenAIの元取締役であるヘレン・トナー氏とタシャ・マコーリー氏は、同社の自主規制能力に疑問を呈した。彼女たちは、利益追求の動機がOpenAIの自主統治を損なう可能性があり、それは長期的な安全目標と矛盾する可能性があると主張した。

OpenAIは巨額の資金を求め、営利モデルへの移行を計画している

OpenAIは、企業価値を1500億ドルに押し上げる可能性のある大規模な資金調達ラウンドの確保に向けて協議中であると報じられています。Cryptopolitanの最近のレポートによると CryptopolitanOpenAIは現在の企業価値で投資家から65億ドルの資金調達を計画しています。また、OpenAIは2025年までに現在の事業モデルを従来の営利事業モデルへと転換する計画であると報じられています。

OpenAIのCEOであるサム・アルトマン氏は、最近の会議で従業員に対し組織変更について明らかにしたが、今後の見通しについてはほとんど語らなかった。アルトマン氏 会社が 「大きくなりすぎた」ため、非営利モデルから脱却する用意があると述べた。