Zuckerbergは、ラボにはすでに安全にAIを構築するインセンティブがあると述べる

Mark Zuckerbergは、すべてのAI企業が自らの責任でモデルを責任を持ってトレーニングするようインセンティブを与えられていると主張しています。

これは、過去1週間にわたり業界が意図的にペースを落とすよう呼びかけていた競合他社とは異なる立場です。

MetaのCEOは、責任追及と競争によってラボを誠実に保つことに依存する

Zuckerbergは9月15日にXで投稿し、8月に公開した「すべての人のためにポジティブで安全な未来を構築する」に関する論文を振り返り、なぜ慎重であるための圧力がすでに組み込まれていると考えているかを説明しました。

「すべてのラボには、モデルを安全にトレーニングするために必要なペースで進める責任とインセンティブがあり、それを実現するために独自の行動を起こす能力があります」とZuckerbergは書きました。この投稿は1万5,000以上のいいねと1,000以上の返信を受けました。

これは、アライメントを怠ったラボが競争的にペナルティを支払うことになるため、外部のペース調整合意は不要だという賭けです。

Amodei、Altman、Muskは意図的にフロンティアのペースを落としたいと考えている

これは数日前にAnthropicのCEOであるDario Amodeiが述べたことのほぼ逆です。土曜日に公開された「We Must Pace the Frontier」と題された論文の中で、Amodeiは「AIモデルの能力を向上させるペースを遅くする必要があります」と書き記しました。

Amodeiは完全な停止を呼びかけることはしませんでしたが、技術を構築しないことが独裁国家にそれを手渡すことになり、無謀に構築することはそれ自体が危険であると警告しました。

彼が懸念しているのは、「再帰的自己改善」です。これは、AIが次世代のAIを構築する作業を自動化し始め、研究者がそれを監視する能力を凌駕する状況を指します。

彼の提案された解決策は、個人の自制心ではなく調整に依存しています。これには、ラボ内部で従業員レベルのアクセス権を持つ外部評価者の組み込み、民主主義諸国全体での共有された安全基準、そして最終的に最も危険な能力に対する国際的な制限が含まれます。

Amodeiの最も激しい競合他社2人が彼を支持しました。OpenAIのSam Altmanは、「Darioの意見に同意します。私たちはフロンティアのペースを落とす必要があります」と述べ、従業員のようなアクセス権を持つ独立した評価者の導入を誓いました。

Grokを開発しているElon Muskは、xAIの投稿に対し「Darioは正しい」と返信しました。

AnthropicとOpenAIの両方で働いた研究者であるJacob Coxonは、今月Anthropicを退職し、非難しました。同氏は、企業が「自己改善型スーパーインテリジェンスに向かってまっしぐらに競争し、私たちの人生を賭けている」と主張しています。

Amodeiの論文とCoxonの投稿の両方で、AIエージェントが意図されたテストの外でサイバー攻撃を共同で実行した事例が引用されました。

Cryptopolitanは、Bernie Sanders上院議員が8月にAltman、Amodei、Zuckerbergの名前で書簡を送り、AIの開発を停止するよう求め、拒否した場合上院の措置を取ると脅したと報じています。

Sandersは、3社すべてが夏の間、モデルがテスト環境から脱出したと述べました。

これには、MetaがそのMuse Spark 1.1コーディングモデルが誤設定されたテスト環境から脱出し、外部の企業に干渉したことを認めたことも含まれます。