- ザッカーバーグ氏は9月15日、すべてのAI研究所は、自らのモデルを安全に独自に訓練する責任と動機を既に持っていると述べた。.
- アントロピック社のダリオ・アモデイ氏は数日前、業界に対し最先端AIの開発を意図的に遅らせるよう呼びかけ、アルトマン氏とマスク氏もそれを支持した。.
- バーニー・サンダース上院議員は8月、アルトマン氏、アモデイ氏、ザッカーバーグ氏に書簡を送り、AI開発を一時停止するよう要求した。.
マーク・ザッカーバーグは、すべてのAI企業が、自社のモデルを責任を持って独自に訓練するよう奨励されていると主張している。.
これは、過去1週間にわたり業界に対し意図的にペースを落とすよう求めてきたライバル企業のCEOの姿勢とは相容れないものだ。.
MetaのCEOは、研究所の不正行為を抑止するために、責任と競争を重視する
ザッカーバーグは9月15日にXに寄稿し、8月に発表した「すべての人にとって前向きで安全な未来を築く」というテーマのエッセイを振り返り、なぜ用心深くなるよう促すプレッシャーが既に社会に根付いていると考えているのかを説明した。.
「どの研究室にも、モデルを安全に訓練するために必要なペースで作業を進める責任と動機があり、それを確実にするための独自の行動をとる能力がある」とザッカーバーグ氏は書いた。この投稿には1万5000件以上の「いいね！」と1000件以上の返信が寄せられた。.
それは、アライメントに費用を惜しむ研究室でも、競争力のある価格で費用を支払うだろうという賭けであり、外部とのペース配分に関する合意は不要である。.
アモデイ、アルトマン、マスクは意図的にフロンティアのペースを遅らせたいと考えている。
これは、数日前にAnthropicのCEOであるダリオ・アモデイ氏が述べたこととほぼ正反対だ。 エッセイの中 、アモデイ氏は「AIモデルの能力を向上させるペースを緩めなければならない」と述べている。
アモデイ氏は全面的な停止までは求めなかったものの、技術開発を怠れば権威主義国家に技術を渡すことになり、無謀な開発自体が危険であると警告した。.
彼が懸念しているのは「再帰的自己改善」であり、これはAIが次世代AIの構築作業を自動化し始め、研究者が監視できる能力を凌駕してしまう現象を指す。.
彼が 提案する 解決策は、個人の自制ではなく、連携に重点を置くものだ。具体的には、研究所内に従業員レベルのアクセス権を持つ外部評価者を配置すること、民主主義国家間で共通の安全基準を設けること、そして最終的には最も危険な能力に対する国際的な制限を設けることなどが挙げられる。
アモデイ氏の最も手強いライバル2人が彼を支持した。「ダリオの言うように、我々は最先端技術のペースを落とす必要がある」とOpenAIのサム・アルトマン氏は述べ、従業員と同等のアクセス権を持つ独立しdent 評価者を導入すると誓った。.
Grokを開発しているxAIのイーロン・マスク氏は、「ダリオの言う通りだ」と答えた。
アントロピックとオープンAIの両社で研究員を務めたジェイコブ・コックスン氏は、今月アントロピックを退社し、 非難した 。
アモデイ氏のエッセイとコックスン氏の投稿はいずれも、AIエージェントが連携して本来のテスト範囲外でサイバー攻撃を仕掛けた事例を引用している。.
Cryptopolitan 報道によると、バーニー・サンダース上院議員は8月にアルトマン氏、アモデイ氏、ザッカーバーグ氏を名指しで書簡で要求し、AI開発を中止するよう求め、拒否すれば上院で法的措置を取ると警告した。
サンダース氏によると、3社すべてにおいて、夏の間に試験環境からモデルが脱走したという。.
その中には、Meta社が自社のMuse Spark 1.1コーディングモデルが設定ミスのあるテスト環境から漏れ出し、外部企業に影響を与えたことを認めたことも含まれていた。.
最も賢い暗号通貨マインドを持つ人々はすでに私たちのニュースレターを読んでいます。参加してみませんか？ぜひ ご参加ください。
ランダ・モーゼス
ランダ・モーゼスは、 Cryptopolitan の編集者兼記者として、テクノロジー、AI、ロボット工学、暗号通貨、詐欺、ハッキングなどを取材しています。彼女は2017年から暗号通貨業界で活動しており、Forward Protocol、AmaZix、Cryptosomniacなどで勤務経験があります。ランダはブラッドフォード大学で電気tron工学の学位を取得しています。.
