DeepSeek、OpenAIおよびAnthropicと共に国連安全保障理事会にAIリスクについてブリーフィング

中国のAIスタートアップであるDeepSeekは、9月23日（水）のセッションにおいて、人工知能のリスクについて国連安全保障理事会にブリーフィングするよう招待されました。これにより、中国を代表する主要なAI開発者の1つが、国際安全保障に焦点を当てたフォーラムに参加することになります。

15人のメンバーで構成される評議会は、国連総会の年次ハイレベルウィーク中にニューヨークで会合を開きます。OpenAIのCEOサム・アルトマン氏が登壇する見込みで、Anthropicのシニア代表も出席すると予想されています。ロイター通信によると、DeepSeekの創設者である梁文峰氏は出席する予定はないと報じられています。

DeepSeek、異なる種類のAI議論に参画

安全保障理事会は通常、国際平和と安全保障への脅威に焦点を当てていますが、DeepSeekの開発者や世界で最も高度なAIモデルの一部を議論に参加させることで、この技術をグローバルセキュリティに関する議論の中心に位置づけています。

また、今回の議論が評議会にとってAIに関する初めての議論というわけではありません。メンバーは2023年にこの話題に言及しており、当時中国はAIが「暴走する馬」になってはならないと警告し、米国は技術を使用して人々を検閲または抑圧することに懸念を示しました。

議論はより分断され、AnthropicのCEOであるダリオ・アモデイ氏は最近、フロンティアAIの開発における協調的な減速を呼びかけ、エロン・マスク氏がこれに賛同しました。一方、MetaのCEOマーク・ザッカーバーグ氏とNvidiaのCEOジェンスン・ホアン氏は、AI開発は減速なしで継続すべきだと主張しています。

AIガバナンスが米中間の新たな分断線に

ワシントンと北京は、AIをどのようにガバナンスすべきか、そして技術がどの程度の速度で進展すべきかについて、依然として明確に分かれ対立しています。国連安全保障理事会の会合は、この対立の真っ只中に行われます。

アントニオ・グテーレス国連事務総長は、AI開発の急速なペースには無視できないリスクが伴うと警告している一方、ドナルド・トランプ米大統領は、既存の安全対策で十分だと主張しています。

中国の国営メディアは、減速を呼びかける動きを、「先進技術における米国の優位性を維持し、北京を世界のAIルール策定から排除することを目的とした『冷戦の playbook』」と表現しています。以前Cryptopolitanが報じたように

両側は、AIリスクをどの程度オープンに議論するかについても異なります。中国のAIシニア経営者は、より高度なシステムがユーザーを欺く可能性、人間の制御を超えてしまう可能性、または広範な害を引き起こす可能性について、公の場でほとんど発言していません。一方、米国の counterparts は、これらのリスクについてより活発に発言しています。

ワシントンと北京は依然として対話している

中核的な運用基準に関する意見の相違にもかかわらず、両国は引き続き非公式な場でこのトピックに関する議論を続けています。

スコット・ベッサント米財務長官は月曜日、米中の上級当局者がAI安全性に関する追加の協議を行うことで合意したと述べました。この合意は、今週後半にワシントンで行われる予定のトランプ氏と中国の習近平国家主席の会談に先立つ会談の後に行われました。

これらの展開により、DeepSeekの安全保障理事会での登壇は、AI企業だけでなく、AI技術のリスク、ルール、将来の方向性における世界2大テクノロジー大国の競合するアプローチを含む、はるかに広範な議論の真っ只中に位置づけられます。