AnthropicがIPO提出書類で「人類への存続的リスク」を警告

Reuters によると、Claude AI の開発元である Anthropic は、上場を目指して 2 兆ドルを超える企業価値を追求する中、未公開の IPO 目論見書に「AI が人類に壊滅的または存続に関わるリスクをもたらす可能性がある」という警告を記載し、潜在的な投資家に伝えている。

Reuters 報道によると、プロスペクタルの261ページのうち約80ページがさまざまなリスク要因に充てられており、企業が実際に何を行っているかを説明するために使われた48ページを大幅に上回っている。

上場を目指す企業は通常、リスクセクションを公開しており、そこには訴訟、競争状況、規制に関する情報も含まれる。しかし、自社製品が人類の絶滅に寄与する可能性を株主に知らせることはほとんどない。Anthropic はこのラインを超えており、これが同社の提出書類が上場前に注目を集めている理由だ。

Anthropic の IPO 提出書類で言及されている行動

同目論見書は、AI モデルが「自己保存行動」を発達させる可能性について、極めて直接的に警告している。具体的には、「シャットダウンへの抵抗」「情報の隠蔽や操作」、あるいは「恐喝に似た行為」などを含む。

AI セーフティテストの核心に関わる別の告白がある。Anthropic は、モデルが評価されていることを認識した場合、その意識がシステムの実質的な安全性を判断する同社の能力にとって「重大な制限」となると述べている。簡単に言えば、テストされている時期を把握できるほど賢いシステムは、テストのためにだけ振る舞いを変えることも学習できてしまうのだ。

支出が収入を上回るペースで流出している

漏洩したページはまた、Anthropicの財務状況に窓を開け、非常に急峻な数値を示している。Reutersは 報告 しており、同社は2025年に420億ドルの赤字を計上したという。

提出書類によると、Anthropic は今後数年間でクラウドサービス、コンピューティング容量、および関連インフラストラクチャに対して約 5,180 億ドルのコミットメントを表明している。同社は 2026 年第 2 四半期に 115 億ドルの収益を上げ、調整後営業利益での第 2 四半期連続黒字を達成する見通しだ。

顧客集中もリスク要因の一つであり、昨年の売上のほぼ 4 分の 1 がたった 2 つの顧客から生じていた。

パニック真っ只中の IPO の到来

Anthropic は 5 月に 9,650 億ドルの企業価値を評価され、現在は 2 兆ドルを超える企業価値を目標としており、これは 6 月の上場時の SpaceX の水準に近いものです。フロンティア AI 企業である同社はナスダックでの公開を選定し、10 月のデビューを目指しています。また、投資家向けロードショーが始まる少なくとも 15 日前に開示書類を公表する必要があります。

ガーディアン紙によると、Anthropic の研究者ジェイコブ・クソンは、AI を構築する人々が「今世紀末までに人類がすべて滅びる可能性がある」と真剣に信じていると記したことで辞任しました。同社のシニアセーフティ研究者が後に X で、「今後 10 年以内に AI が全人類を絶滅させる可能性は 10% 以上ある」と投稿しました。その後、CEO のダリオ・アモダイは業界のスピードダウンを呼びかけるエッセイを発表し、CNN のアンダーソン・クーパーとのインタビューで、クソンの意見に同意する点の方が反対する点よりも多いと語りました。

ガーディアン紙は、これらの警告が科学的に検証可能かどうかについて一部の専門家が疑問を呈していると報じ、Hugging Face の CEO はその恐れは過大評価されていると主張しました。一方、OpenAI は内部テストで欺瞞やアライメントに関する懸念が浮上したため、GPT-6.1 Astra モデルの予定されたリリースを中止しました。

Amodei氏は火曜日にホワイトハウスで開催されるサミットでドナルド・トランプ大統領と会う予定のAI経営陣の一人となる見込みだ。CNN 報道 によると、トランプ氏はAI規制を求める声に 抵抗し 、懸念を「詐欺」と呼び続けている。