元Google CEOのエリック・シュミット氏、AI開発における「マンハッタン型プロジェクト」に警告

グーグル元CEOのエリック・シュミット氏は水曜日に公表した政策文書の中で、米国はAIシステム開発に関してマンハッタン型のプロジェクトを推進すべきではないと警告した。. 

論文「超知能戦略」では、超知能AIシステムの支配権獲得を巡る積極的な入札は、中国などの国からの報復を招く可能性があると指摘されている。こうした報復はサイバー攻撃という形で行われる可能性があり、国際関係に直接的な影響を与える可能性がある。 

この政策文書は、Scale AIのCEOであるアレクサンダー・ワン氏と、AI安全センター所長のダン・ヘンドリックス氏が共同執筆したものです。共著者らは、「（AGIのための）マンハッタン計画は、ライバル企業が永続的な不均衡や全滅を阻止しようとするのではなく、それを黙認することを前提としている」と述べています。 

著者らはさらに、「超兵器と世界支配の推進として始まったものが、敵対的な対抗措置を促し、緊張を高めるリスクをはらみ、その結果、この戦略が確保しようとしている安定性そのものを損なうことになる」と付け加えた。

この論文は、米国議会委員会が汎用人工知能（AI）開発のための「マンハッタン計画型」の資金提供計画を提案してからわずか数か月後に発表された。この計画は、1940年代の米国による原子爆弾開発の取り組みをモデルにしている。. 

クリストファー・ライト米国エネルギー長官は、 述べた 米国が人工知能に関する「新たなマンハッタン計画」を開始しようとしているとdent 、米国は世界のAI競争に勝利するだろう。しかし、そのためにはまず、エネルギー分野における優位性を確立し、米国の競争力を回復しなければならない」と語った。

アメリカの産業界リーダーや政策立案者の中には、政府支援によるAI開発プログラムの推進こそが、中国などの国々と競争する最善の方法だと示唆する者もいる。しかし、スーパーインテリジェンス戦略の論文は、この考えに異議を唱えている。. 

エリック・シュミットはこれを相互確証破壊と呼んでいる 

著者は、世界大国が核兵器の独占を避けるのと同様に（予防的破壊工作という形で報復を引き起こす可能性があるため）、米国は強力な AI システムで支配しようとすることに注意する必要がある、と主張した。.

エリック・シュミット氏はMAIM（相互確証AI誤作動）という概念について講演しました。これは、他国の政府がAGIが自国に対して武器化されるのを待つのではなく、AIによる脅威を積極的に無効化しようとすることを意味します。. 

著者らは、米国は「超知能化競争に勝つ」ことに焦点を当てるのではなく、他国によるそのようなシステムの開発を抑止する方法を開発すべきだと主張した。さらに、米国は「脅威となるAIプロジェクトを無効化するためのサイバー攻撃の武器を拡充する」べきだと付け加えた。

しかし、トランプ政権はAI競争において米国を前進させることに固執しているようだ。しかしシュミット氏は、米国がAIを限界まで押し進めているのを世界が注視している今、防御的なアプローチを検討するのが賢明だと主張している。.