トランプ氏と習近平氏がAI安全性について協議、専門家がAnthropicの扇動を批判

ドナルド・トランプ大統領と習近平国家主席が北京で技術協力に関する会談を終えた直後、米国のトップAI企業が中国のAI成長について強い警告を発し、業界のレトリックと政治的現実の間に珍しいギャップが生じた。 

AI企業Anthropicは木曜日、人間レベルの知能を持つ機械が2028年までに登場する可能性があるとする研究論文を発表した。

同社は、米国が先進的なAIシステムの開発において中国 ahead に留まるようワシントンに呼びかけた。

「2028年：グローバルAIリーダーシップの2つのシナリオ」と題された論文は、科学、エンジニアリング、サイバーセキュリティの複雑な作業を人間の専門家レベルで処理できるAIシステムが間もなく登場する様子を描いている。

AnthropicはAIリーダーシップの2つの未来を描く

Anthropicは、「データセンターの天才の国」と呼ばれる未来を描写している。

AIは科学発見、ソフトウェア開発、さらに高度なAIの作成を加速させる可能性がある。

Anthropicは、先進的なAIでリードする国が、経済的、政治的、軍事的な大きな優位性を得ると主張している。

このレポートは、トランプ氏が北京での習近平氏とのサミットの初日を終えた直後に発表された。

Anthropicは、米国とそのパートナーに輸出規制を強化し、中国における「蒸留」（より小さく、洗練されたシステムに訓練される小さなAIモデル）を防ぐよう奨励した。

Claude AIの作成者であるAnthropicは、以前から中国のAIの進歩について警告し、米国のチップ輸出制限を支持してきた。

同社によると、先進的なAIにおける中国のリーダーシップは、人間だけでは達成できない大規模な抑圧を可能にするため、重大な世界的脅威となり得るとしている。

同社は、独裁政権が高度なAIを大量監視、デジタル攻撃、人口管理に使用することについて懸念を表明した。

レポートによると、米国は現在、ハイエンドのコンピュータチップの開発と高度なAIモデルの訓練に必要な計算能力を支配しているため、AIで優位性を持っている。

しかし、Anthropicは、半導体輸出規制のギャップ、海外での計算能力へのアクセス、AIモデルの利用可能性に関する課題が解決されない場合、この優位性は縮小する可能性があると警告した。

Anthropicは2028に関する2つの可能な結果を説明した。

1つのシナリオでは、米国とその同盟国は輸出管理を強化し、チップの密輸を取り締まり、国内でのAI採用を加速させ、民主主義諸国が中国より12〜24ヶ月先行し続けるのを助ける。

同社は、この先行性が中国のAI専門家との安全性とガバナンスに関する協力機会を生み出す可能性があると述べた。

2番目のシナリオでは、緩い執行と海外インフラへの継続的なアクセスにより、中国は先進的なAIでの競争力を維持できる。

Anthropicは、中国がグローバルなAIシーンで大きな影響力を得る可能性があると警告した。

批評家と外交官が対立の枠組みに反発

しかし、一部の業界関係者は、米国が中国 ahead に留まるようAnthropicが推進することを「無責任」であり、自己利益に基づくものと呼んでいる。

スタンフォード大学人間中心AI研究所のデジタルフェローであり、アジア協会政策研究所のシニアフェローであるアルヴィン・ウォン・グレイリン氏は、同社が提起した潜在的な悪用に関する懸念は正当なものであり、注意に値すると述べた。

しかし、その「軍拡競争の枠組みは、まさに間違った瞬間に間違った方向へ私たちを押しやる」と彼は述べた。

議論が公に行われている間、両大統領は実際にはAI協力について議論していた。

トランプ氏は帰国の途上にあるエアフォース・ワンで記者団に対し、AIに関する「ガードレール」で協力する可能性について「話した」と述べ、それらを「私たちがいつも話している標準的なガードレール」と表現した。

会談ではNvidiaのH200チップについても議論された。

北京はまだこれらのグラフィックスプロセッシングユニットの出荷を承認していない。

トランプ氏は、会談でこの話題が「持ち上がった」と認め、「何か起こる可能性があると思う」と述べた。

彼は、中国はまだハードウェアを購入していないのは「選ばなかった」からであり、代わりに「自国内のオプションを開発しようとしている」と指摘した。

中国外務省の郭嘉昆報道官は金曜日、「中国は常に、すべての関係者が共同して、オープンで包括的、有益かつすべての人に良い方向へ人工知能の開発を推進することを提唱してきた」と述べた。

Nvidiaのチップ問題について、彼は中国が詳細を明かさずに自らの立場を繰り返し共有したと述べた。

北京は以前、輸出管理の誤用の使用に強く反対すると述べていた。