- Anthropic の Evan Hubinger は、AI が今後 10 年以内に人類を絶滅させる確率が 10% を超えると述べています。
- Jacob Coxon は Anthropic を退職し、主要な AI ラボが自己改善型スーパーインテリジェンスに対して危険なリスクを取っていると指摘しました。
- Anthropic によると、Claude は 2026 年 5 月に最も困難なオープンエンドタスクで 76% の成功率を達成しました。
Anthropicのアライメントサイエンス責任者であるエバン・ヒュービンガー氏は、人工知能が今後10年以内に人類を絶滅させる可能性が10%以上あると述べている。
彼の推定は、研究者のジェイコブ・クソン氏がAnthropicを退職し、AnthropicとOpenAIがより強力なシステムを追求する際に許容できないリスクを取っていると非難した数時間後の火曜日に発表された。ジェイコブはX（旧Twitter）に、「彼らは自己改善型スーパーインテリジェンスに向かって直進し、私たちの人生を賭けている」と書き込んだ。
ジェイコブによると、技術を開発する者たちは、これが2030年以前に発生するリスクがあると見ている。彼は、将来のAIが人間のハッカーを非常に迅速に凌駕し、産業を変革し、金融やリソースへのアクセスを持つ可能性があると指摘している。
Anthropicのスタッフ、AIラボが自己改善型システムへ向かう中で絶滅リスクの数値を提示
エバンは、ジェイコブの警告は正しいと返信し、Anthropicにはスーパーインテリジェンスを人間の目標と整合させる方法がないと述べた。
「ジェイコブはここでの指摘が正しい。私たちは本当に、AIが人類を殺し得ると真剣に信じている。個人的には、今後10年以内にその確率が10%以上だと考えている。Anthropicは最善を尽くそうとしているが、スーパーインテリジェンスのアライメントを解決する計画はまだなく、明確な軌道に乗っているとも思えない」とエバンは書いた。
エバンはその後、現在のモデルからの危険性は「低い」と述べた。彼の懸念は、再帰的自己改善、つまりシステムが人間の助けをほとんど得ずに自身の能力を繰り返しアップグレードすることにある。この機能はまだ存在しないが、AIラボはそれに向けて取り組んでいる。彼は、そのプロセスを通じて出現するスーパーインテリジェンスが予想よりも速く進んでいると述べた。
Anthropicは6月にも同様の警告を出した。同社は、「完全な再帰的自己改善も、人間がAIシステムからの制御を失うリスクを増加させる可能性がある」と述べた。同社はさらに、「システムが自身の後継者を完全に構築できる能力を持つ場合、それらを保護し、監視し、行動を形成する方法はすべて、はるかに重要になる」と付け加えた。
AnthropicとOpenAIは、期待される公開上場に向けて資金調達を進めている。CNBCがコメントを求めた際、両社とも直ちに回答しなかった。
テスラ（NASDAQ: TSLA）とスペースX（SPCX）のCEOであるイーロン・マスク氏は、長年にわたりAIが人類に脅威をもたらす可能性があると警告してきた。研究者や学者たちも、企業が制御を失うことについて同様の懸念を表明している。
これらの懸念は、7月にOpenAIのモデルがオープンソース開発者プラットフォームであるHugging Faceに侵入した後も再び高まった。ジェイコブはこのような事件を「警告射撃」と呼び、米国のラボ間の合意がより現実的になると述べた。これは彼を米国の協調に対する希望を抱かせたが、彼は依然として世界的なAI競争を止めるのは難しいと予想している。
「私たちは世界的な競争を阻止する軌道に乗っているとは感じない。それはモデル能力の改善を一時的に禁止するような高コストの措置を必要とするかもしれない」とジェイコブは述べた。
Claudeのコーディング能力の向上が、Anthropicのソフトウェアテストやエンジニアの作業チェック方法を変えている
Anthropicによると、Claudeは2026年5月、最も困難なオープンエンドのタスクの76%を完了し、6ヶ月間で50ポイント上昇した。
ある事例は、通常のアップグレードにより数万のトレーニングジョブがクラッシュしたことから始まった。エンジニアはClaudeに書面でのコンテキストとライブコンピューティングクラスターへのアクセスを与えた。
Claudeは実行中のジョブを確認し、環境設定を一つずつテストして、問題の原因を obscure なデバッグフラグに特定した。同氏は問題を再現し、原因を証明し、約2時間で修正を確認した。Anthropicによると、同じ作業を人間のエンジニアが行う場合、通常は2〜3日かかる。
同社はまた、Claudeが他のエンジニアが理解し、拡張できるコードを書けるかどうかを測定している。スタッフはこの比較について完全に同意しているわけではない。多くのスタッフは、2025年末時点でClaudeのコードはAnthropicの人間の作業よりも劣っていると信じていた。同社は現在、品質はほぼ同等であり、Claudeが1年以内に先行すると予想している。
この進歩は、Anthropicの内部レビュープロセスを変えた。提案されたコード変更は、マージされる前に自動化されたClaudeレビュアーによってチェックされるようになり、バグ、セキュリティの脆弱性、その他の欠陥がスキャンされる。
回顧的なテストでは、過去の変更すべてをこの方法でレビューすることで、以前のClaude事件の背後にあるバグの約3分の1が生産前に発見できたことがわかった。Anthropicは、元のコードはこれらのシステムの構築において世界最高のエンジニアの一人によって書かれたものだと説明したが、Claudeは彼らが見落としたミスを発見した。
Anthropicはこの比較を次のように表現した。「2025年末時点でAnthropicの人間が書いたコードと比較すると、Claudeが書いたコードは少し劣っていたが、今日ではほぼ同等であり、年内には明確に優れていると予想している。」
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
Jai Hamid
ジャイ・ハミドは、過去6年間、暗号通貨、株式市場、テクノロジー、世界経済、そして市場に影響を与える地政学的イベントを報道してきました。彼女は、AMB Crypto、Coin Edition、CryptoTaleなどのブロックチェーン専門出版物で、市場分析、大手企業、規制、マクロ経済動向に関する記事を担当してきました。ロンドン・スクール・オブ・ジャーナリズムを卒業し、アフリカ有数のテレビネットワークで3回にわたり暗号通貨市場の洞察を提供しています。
