OpenAI では安全性が後回しにされているのか?

著

アミール・シェイク

読了時間3分 2024年5月18日

OpenAIのスーパーアライメントチームリーダーであるJan Leike氏は、同社の安全対策の変化について深刻な疑問を提起した。.
ライケ氏は共同創業者のイリヤ・スツケヴェル氏が退社した数時間後に退社した。.
スーパーアライメントチームは同社によって解体され、同社の AI モデルに対する監視は弱まると言われている。.

共同創業者のイリヤ・スツケバー氏が今週初めに同社を去った後、著名な研究者のヤン・ライケ氏は金曜朝、同社では「安全文化とプロセスは派手な製品に後回しにされてきた」と発表した。.

ヤン・ライケ氏はソーシャルメディアプラットフォームXの一連の投稿で、サンフランシスコを拠点とするスタートアップ企業に入社したのは、ここがAI研究を行うのに最適な場所だと思ったからだと述べた。.

ライケ氏は、同じく今週辞任した共同設立者とともに、OpenAIの「スーパーアライメント」チームを率いていた。.

OpenAIのスーパーアライメントチームはもう無傷ではない

Leike 氏の Superalignment チームは、同社が人間のように合理化できる AI を進化させる中で、安全対策を展開する際の主な技術的課題に対処するために、昨年 7 月に OpenAI で結成されました。.

ライケ氏の発言は、OpenAIがAIに関連する長期的なリスクへの対処を任されていたSuperslignmentチームを完全に解散したと主張するWIRED Chichの報道を受けて出されたものだ。.

会社を去ったのはスツケヴァー氏とライケ氏だけではありません。昨年11月、取締役会がCEOのサム・アルトマン氏の解任を試みたものの、アルトマン氏が自らの地位を取り戻すために策を巡らせたため、OpenAIで最も安全意識の高い従業員のうち少なくとも5人が会社を去るか、解雇されました。.

OpenAIは安全第一のAGI企業になるべきだ

ライケ氏は、複数のプラットフォームにまたがるテクノロジーの最も物議を醸している特徴、つまり人間と同程度に一般的に知能があるか、少なくとも多くのタスクを同様に実行できるロボットの将来像を指摘し、OpenAI は安全性を第一とする AGI 企業に生まれ変わる必要があると書いている。.

ライケ氏の投稿に対し、Open AIのCEOサム・アルトマン氏は、同社に対するライケ氏の貢献に感謝の意を表すとともに、同氏の退任を悲しんでいると述べた。.

アルトマン氏はXの投稿で、ライケ氏の意見は正しいとし、近日中にこの件について長文の記事を書く予定だと述べた。さらに、次のように述べた。

「私たちにはやるべきことがまだたくさんあります。私たちはそれを実行することに全力を尽くします。」

ライク氏はOpenAIのスーパーアライメントチームを去り、同社の共同創設者であるジョン・シュルマン氏が引き継いだ。.

しかし、チームにはどこか空虚さが漂っている。また、シュルマン氏はOpenAIの既存製品のセキュリティ確保にフルタイムで取り組んでおり、既に過重労働となっている。OpenAIは、今後どれだけの意義深く、将来を見据えたセキュリティ対策に取り組むことができるのだろうか？この問いに対する納得のいく答えは存在しないようだ。.

ヤン・ライケは経営陣とイデオロギー的な意見の相違がある

組織名である OpenAI が示すように、当初はモデルを一般公開することを目的としていたが、現在ではこのような強力なモデルを誰でも利用できるようにすることは有害となる可能性があるとしており、そのためモデルは独自の知識となっている。.

ライケ氏は投稿の中で、OpenAIの経営陣が同社に強制してきた優先事項について、かなり長い間同社と意見が合わなかったが、ついに転換点に達したと述べた。.

私がOpenAIに入社したのは、この研究を行うには世界最高の場所だと考えたからです。

しかし、OpenAIの経営陣とは、会社の最優先事項について長らく意見が合わず、ついに我慢の限界に達しました。
— ヤン・ライケ（@janleike） 2024年5月17日

ライケ氏の会社での最終日は木曜日で、その後辞任した。彼は辞任を温かく見送ったり、OpenAIのリーダーシップへの信頼を示唆したりといった甘い言葉で飾ることはなかった。Xに「辞任しました」と投稿した。

Leikeのフォロワーはコメントで、Leikeがもう自分たちの部隊のメンバーではないことを嬉しく思っていると述べていました。Woke派のイデオロギーは人類の理念とは相容れません。相容れなくなるほど、AIに反映されていくのです。.

こちらもご覧ください: OpennAIがChatGPTの改善のためにRedditコンテンツを保護

フォロワーは、すべてのアライメント担当者からアライメントの defiを求めるとも述べた。彼は、ライケ氏がOpenAIの他の従業員に対し、同社に必要な文化的変革を実現できると確信していると尋ねたという提案を指摘した。.

世界有数のAI企業は、専門家がしばしば強調する安全対策に関する方針を変更しているようで、トップの安全専門家が同社を去ったことはそれを裏付けていると思われる。.

Cryptopolitan アーミール・シェイク記者によるレポート

この記事を読んでいるあなたは、既に一歩先を行っています。ニュースレターを購読して、その優位性を維持しましょう。

この記事を共有する

免責事項： 本情報は投資助言ではありません。Cryptopolitan.com Cryptopolitan、本ページの情報に基づいて行われた投資について一切責任を負いません。投資判断を行う前に、ごtrondentdentdentdentdentdentdentdent で調査を行うか、資格のある専門家にご相談されることを

アーミール・シェイク

アーミールは、テクノロジーと仮想通貨を専門とするテクノロジージャーナリストです。カラチのMAJ大学でマーケティングとファイナンスのMBAを取得しています。2021年から Cryptopolitan で仮想通貨分析記事を執筆しています。.

1. OpenAIのスーパーアライメントチームはもう無傷ではない

2. OpenAIは安全第一のAGI企業になるべきだ

3. ヤン・ライケは経営陣とイデオロギー的な意見の相違がある

この記事を共有する