トップAI安全研究者がAnthropicを辞任し、不気味な警告を発する

AnthropicのリードセーフティリサーチャーであるMrinank Sharma氏が、今週X（旧Twitter）への投稿で同社からの退職を発表しました。Sharma氏のこの決断は、現在のAIの状況や世界に対する懸念に駆り立てられたものと思われます。

Mrinank Sharma氏は、Claudeという大規模言語モデル（LLM）を搭載し、OpenAIの ChatGPT と並ぶトップ競合として広く認識されている prominent なAI企業であるAnthropicで、 Safeguards Research Team を率いていました。Sharma氏の離脱は非常に急激なものでした。Safeguards Research Teamは昨年2月にようやく正式に設立されたばかりでした。このチームの主な焦点は、Anthropicの展開したAIシステム（Claudeなど）に関連するリスクを特定し、理解し、軽減することでした。

米国最大のAI企業の一人であるトップセキュリティ研究者の突然の離脱は、ソーシャルメディア上で大きな論争を巻き起こしました。おそらく 辞任状 で最も注目された部分は、Sharma氏が「世界は危機に瀕している」と暗に警告した点です。彼はこれを「AIや生物兵器だけでなく」、「まさにこの瞬間に進行している一連の相互に関連する危機」に起因するものだと説明しました。これは多くの人々によって、AIの進歩に伴う存続リスクに関する警告として解釈されました。Sharma氏の辞任は、最近のAI企業の著名な従業員による辞任の、より大きく、懸念すべき、そして加速している傾向の一部です。

Sharma氏の辞任状の解釈

Mrinank Sharma氏は手紙の冒頭で、自身の背景やインスピレーションの源について簡潔に触れています。特に、「困難な決断を下し、善のために立つという意志」が挙げられています。また、彼はAnthropicへの貢献についても言及しており、「AI支援によるバイオテロリズムからのリスクを軽減するための防御策の開発と展開」や、初期のAIセーフティケースの1つを執筆したことを述べています。彼の最後のプロジェクトは、「AIアシスタントがいかにして私たちを人間らしさから遠ざけ、あるいは人間の本性を歪める可能性があるかを理解すること」でした。

しかし、最も懸念を呼んだのは手紙の第3段落でした。彼はAnthropicの不正行為を直接非難したり、AIが人類を皆殺しにするとはっきりと言ったりしていませんでしたが、哲学的な表現を用いて辞任の理由を説明しました。彼は「私たちは、世界に影響を与える能力に等しい程度に知恵を成長させない限り、その結果に直面することになるという閾値に達しているように思えます」と述べています。これに続き、「私の価値観が行動を真に支配することの難しさを何度も目の当たりにしてきました」とも記しています。さらに、彼は interconnected（相互に関連した）危機のシリーズによって世界が危険に晒されていると説明し、脚注ではこれを「メタ・クライシス」に支えられた「ポリ・クライシス」と呼んでいます。

この言語は、彼の Anthropic からの離脱が、社内紛争というよりも、むしろ哲学的な相違によって引き起こされたことを示唆しています。「メタ・クライシス」に支えられた「ポリ・クライシス」として現在の瞬間を記述することにより、Sharma氏は、社会および間接的にはAI開発が直面しているはるかに大きな構造的な問題を指し示しているようです。技術は集団の知恵よりも急速に進化しており、現在のシステムやその開発に影響を与える権力は、現在の世界の状況においてそれを適切に管理する準備ができていません。

Sharma氏の手紙から得られる大きな教訓

Sharma氏の辞任状から得られるより大きな教訓は多面的かつ存続的なものです。一方では、彼は、競争的なシステムの中でAI開発の加速をテクノロジー企業がどのようにナビゲートしているかについて、根本的な問題があると信じているようです。グローバルな権力は、AIやその他の技術的進歩において互いを凌駕する軍拡競争にあり、世界のテクノロジー支出は 2026年に5.6兆ドルに達する見込み です。これは、AI企業が単に革新を行い製品を構築しているだけでなく、地政学的紛争の重要な構成要素であることを意味します。さらに、これらの企業は株主に対して良好なパフォーマンスを発揮する信託責任を負っており、技術的進歩において競合他社を上回るインセンティブを生み出しています。

これにより、セーフティ原則や手順が市場の圧力、国の競争力、投資家の期待と整合する環境が生まれます。それでも、AI企業が急速に拡大し、その能力を進展させるにつれて、それらに伴うリスクを特定し、理解し、軽減する必要があります。Sharma氏が対処していると思われる問題は、AI企業が現在運営されているシステムが、自然と成長を安全や倫理的配慮よりも優先しているという点にあります。このダイナミクスの影響は存在論的に深く、大きな懸念材料です。Sharma氏のようないい意味で誠実な人物でさえ、このシステム内で価値観を妥協することなく運営し続けることはできず、結果として完全にそこから撤退することになったのです。