最新ニュース
あなたへのおすすめ

Anthropic、AIがAIを構築する時代は安全性の枠を超え市場を揺るがす可能性と警告

著者アシシュ・クマールアシシュ・クマール 3分で読了
Anthropic、AIがAIを構築する時代は安全性の枠を超え市場を揺るがす可能性と警告
  • Claudeは2026年5月までにAnthropicのエンジニアリングコードの80%以上を生成したが、人間の監視は依然として必要である。

  • Claudeは8月にAI研究タスクの26%をリードし、2月のわずか1%から増加した。

  • Anthropic によると、完全に自律的な自己改善を実現した AI システムは存在しません。

人工知能は、より強力なモデルを作成するために必要な作業の大半を担っています。Anthropicは、Claudeがすでにこのプロセスをより速く行うことを保証していると主張していますが、独自に後継モデルを作成することはまだできていません。同社は6月4日の評価で、AIの進歩が、技術が安全確認や規制監督を直接超えるリスクを生み出すと指摘しています。

AIが自身を構築するとき、そしてそれがまだ何を意味しないか

ただし、Claudeはまだ再帰的自己改善の段階には至っていません。これはAIが人間の介入なしに自身の子系を作成・訓練する能力を指します。Anthropicによれば、この能力を達成したシステムは現時点で存在しません。

Claudeは完全な自律性を持っていないにもかかわらず、Anthropicのコーディング作業の大部分を管理してきました。2026年5月までに、Claudeはエンジニアが同社のソフトウェアプロジェクトに貢献したコードの80%以上を生み出していました。2026年第2四半期には、平均的なエンジニアが2024年に比べて1日あたりに貢献するコード量が8倍になりました。

これらの数字はコーディング出力が増加したことを示していますが、必ずしも有用な作業の量が増えたことを意味するわけではありません。METRによって引用された調査では、349人の技術労働者を対象に、AIツールの使用により自身の仕事の価値が中央値で1.4〜2倍増加したと自己報告されています。

Claude主導の26%、そのうち完全に自律的なものはない

Claudeは今やコード作成だけでなく、より多様な役割を果たしています。Anthropicの8月の測定結果によると、AIの研究開発タスクの26%でClaudeが主導的な役割を果たし、2月のわずか1%未満から大幅に増加しました。Claudeは作業の90%以上で共同または主導的役割を果たしましたが、人間は常にプロセスに関与していました。測定された作業のうち、完全に自律的なものは一つもありませんでした。

Anthropicの研究とMETR調査は異なるものを測定しています。AnthropicはAIシステムの支援下で行われたコード生成と研究を追跡しており、METRは労働者が自らの仕事の価値増加をどのように認識しているかを測定しています。しかし、どちらの研究もAIがどの研究課題を解決すべきかを決定する能力があるかどうかを示すものではありません。

Anthropic AI構築AI警告:Claudeがコードの80%を記述し、研究の26%をリード

単一のモデルが自己改善しない場合、これがどのように複合的に影響するか

AIが研究を加速させるために完全な自律性を持つ必要はありません。RANDの10月レポートによれば、AIエージェントは自分自身の子系を作成することに気を取られることなく、より強力なモデルを作成できます。すでに機密性の高いモデルやコードへのアクセスを通じてセキュリティ上の脅威となり得る可能性があります。

METRの経済学者によれば、データの入手可能性、計算能力、実験的研究の実施能力などの要因により制限が生じる可能性がある。しかし、AI開発の持続的な加速という考えを否定したわけではない

独立した安全レビューがAI駆動の実験に追いつけるかどうかという問題があります。そうでなければ、完全な自律性が到来するずっと前から監督が遅れる可能性があります。

フロンティアのパシングからポリシングへ

この懸念から、AnthropicのCEOであるダリオ・アモダイ氏は、開発速度の低下と独立した評価者の導入を呼びかけた。彼の9月の論文で、彼は次のように記している:

「AIモデルの能力向上を加速させるペースを遅くする必要があります。」

OpenAIは9月16日付の開示文書で、懸念されるモデルの挙動に関する6つの事例を詳細に説明した。Cryptopolitanもまた、AI開発の速度を落とすべきかどうかをめぐる技術リーダー間の分断を報じた。

ただし、安全性への懸念で合意しても、それが必ずしも行動につながるとは限らない。CSISは、外部評価者が利益相反を避ける必要があると警告した。政府も規制俘獲に対して警戒する必要がある。業界全体の合意はまだ不透明な状態にある。

資金は計算資源に追随する

The debate also carries financial stakes. Stanford’s 2026 AI Index found private AI investment rose 127.5% in 2025. US investment was 23 times China’s. The OECD also warns that access to chips, cloud infrastructure, and data remains concentrated. This creates a paradox. AI may make research coding cheaper, but training and testing advanced models still require enormous investment. Faster development could therefore give leading laboratories an even greater advantage over smaller competitors.

これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。

よくある質問

再帰的自己改善とは何ですか?

それは、人間が関与することなく、AIシステムが自身の後継系を完全に設計し訓練できる時点です。Anthropicは、このラインはまだ越えられておらず、必然的なものではないと述べています。

ClaudeはAnthropicのコードや研究のどの程度を担っていますか?

2026年5月現在、ClaudeはAnthropicでマージされたコードの80%以上を作成しており、2026年8月には会社の測定可能なAI研究の26%を「主導」していましたが、測定対象のどの領域も完全に自律的には実行されていませんでした。

ダリオ・アモデイは何を提案しましたか?

9月12日の論文において、AnthropicのCEOは、ラボがフロンティアのペースを調整し、トレーニングを停止せずに能力の向上を緩めるよう呼びかけました。これには、METRのような第三者評価者の組み込みから始め、民主主義国のラボおよび政府間の協調が含まれます。

この記事をシェア

免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。

アシシュ・クマール

アシシュ・クマール

アシシュ・クマール氏は、8年間のニュースルーム経験を持つ暗号資産および金融ジャーナリストです。暗号資産市場、規制、DeFi、取引所エコシステムに関する最新動向を取材・執筆しています。Coingape、Todayq、Newsroompostなどで活動実績があります。IIMC(インド・マスコミュニケーション研究所)で英語ジャーナリズムのPGDPを取得しており、アーサー・ヘイズ氏、ヤット・シウ氏、オースティン・フェデラ氏など業界の主要人物へのインタビューも多数行っています。

もっと見る… ニュース