- Jan Leike氏、OpenAIのスーパーアライメントチームリーダーは、同社の安全対策の変化について深刻な疑問を呈しました。
- Leike氏は共同創設者のIlya Sutskever氏が退社した数時間後に会社を去りました。
- スーパーアライメントチームは同社によって解体されたと伝えられ、その結果、AIモデルに対する監視が弱まっているとされています。
共同創設者のIlya Sutskeverが今週初めに同社を去った後、 prominentな研究者であるJan Leikeは金曜日の朝に、「安全文化とプロセスが輝かしい製品に取って代わられた」と同社で発表した。
Jan Leikeは、ソーシャルメディアプラットフォームXでの一連の投稿で、サンフランシスコを拠点とするスタートアップに参加した理由について、それがAI研究を行うのに最適な場所になると信じていたと語った。
Leikeは、今週辞任した共同創設者と共に、OpenAIの「Superalignment」チームを率いていた。
OpenAIのSuperalignmentチームはもはや一体ではない
LeikeのSuperalignmentチームは、人間のように推論できるAIを進化させるにつれて、安全対策の実装における主な技術的課題に対処するために、昨年7月にOpenAIで結成された。
Leikeの声明は、WIRED ChichによるOpenAIがSuperslignmentチームを完全に解散させたという報道の後に出された。このチームは、AIに関連する長期的なリスクに対処する任務を負っていた。
関連記事: OpenAIのチーフサイエンティスト、Ilya Sutskeverが別れを告げる
SutskeverとLeikeが去った唯一の従業員ではなかった。少なくとも5人以上のOpenAIで最も安全意識の高い従業員が、昨年11月に取締役会がCEOのSam Altmanを解任しようとしたが、彼が自分のカードを切って地位を取り戻すのを目撃した以降、会社を去るか解雇された。
OpenAIは安全最優先のAGI企業になるべきである
Leikeは、技術 across 複数のプラットフォームで最も論争の的となった機能、つまり人間と同様に一般的に知的であるか、少なくとも多くのタスクを同様に実行できる可能性のあるロボットの将来像を指摘し、OpenAIは安全最優先のAGI企業に変革する必要があると書いた。
Leikeの投稿に対する反応として、Open AIのCEOであるSam Altmanは、Leikeの同社への貢献に対する感謝を表し、彼の退職について悲しみを表明した。
AltmanはXでの投稿で、Leikeが正しく、数日以内にこのトピックに関する長文の投稿を行うと述べた。また、彼は次のようにも述べた。
「私たちはまだやるべきことがたくさんあります。それをやり遂げることにコミットしています。」
LeikeはOpenAIのsuperalignmentチームを去り、企業の共同創設者であるJohn Schulmanが引き継いだ。
しかし、チームには空虚さがある。さらに、SchulmanはすでにOpenAIの既存製品のセキュリティを保証するフルタイムの仕事で過重負担となっている。OpenAIがこれ以上どれほど重要で、将来指向の安全作業を生み出すことができるだろうか？これに対する満足のいく答えはなさそうである。
Jan Leikeは経営陣とイデオロギー的な違いがある
組織の名前、OpenAIが示すように、当初はモデルを一般公開して自由に共有することを意図していたが、同社は現在、そのような強力なモデルを誰でも利用可能にすることは有害になり得ると述べており、モデルは機密情報へと変更された。
Leikeは投稿で、OpenAIのリーダーシップが長年にわたり同社に強制してきた優先事項について異議を唱えており、ついに転換点に達したと述べた。
私は、OpenAIがこの研究を行うのに世界で最も良い場所になると信じて参加した。
— Jan Leike (@janleike) 5月 17、2024
しかし、私は相当前からOpenAIの経営陣に対し、同社の中核的な優先事項について異議を唱えており、ついに決定的な対立点に至りました。
Leikeの同社での最終日は木曜日であり、その後彼は辞任し、温かい送別やOpenAIのリーダーシップへの自信の示唆を一切加えずに辞任を飾らなかった。Xでは、「私は辞任した」と投稿した。
Leikeのフォロワーはコメントで、Leikeが彼らのチームのメンバーではなくなったことを喜んでいると述べた。wokeなイデオロギーは人類と一致していない。それが一致しなくなるほど、それはAIに組み込まれる。
関連記事: OpenAI、ChatGPTの改善のためにRedditコンテンツを保護
フォロワーは、すべてのアライナーからアライメントの定義も必要だと述べた。彼は、LeikeがOpenAIの他の従業員に対し、同社に必要な文化的変化をもたらすことができると信じているという推奨事項を指していた。
世界のトップAI企業は、専門家によって頻繁に強調される安全対策に関してコースを変更しているようであり、トップの安全専門家の同社からの departure はそれを確認しているようだ。
CryptopolitanによるAamir Sheikhのレポート
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
アミール・シェイク
Aamir氏は、暗号資産およびテクノロジー業界でほぼ6年の経験を持つテックジャーナリストです。MAJ大学を修了し、財務・マーケティング分野でMBAを取得しました。現在はCryptopolitanで勤務し、暗号資産市場の最新動向や価格予測について報じています。
