米国のメディアやIT業界関係者が超知能AI開発の停止を呼びかけ

米国の右派メディア関係者、科学者、テクノロジーリーダーらの連合は、国民の支持を得て、科学によって安全に制御できることが保証されるまで、超知能人工知能（AI）の開発を世界的に禁止するよう求めている。.

ロイターの水曜日の報道によると、Future of Life Institute (FLI)が調整した嘆願書は、850人以上の著名人が署名した共同声明を通じて発表された。. 

この文書は、政府とAI企業に対し、公的に承認された安全対策が導入されるまで、人間の認知能力を凌駕するとされるAIシステムを含むすべての 超知能研究をいる。

同盟国が集結し、超知能AIの開発を阻止 

署名 者は 、右翼メディア関係者のスティーブ・バノン氏とグレン・ベック氏、そして著名なAI研究者のジェフリー・ヒントン氏とヨシュア・ベンジオ氏が率いる。その他、ヴァージン・グループの創業者リチャード・ブランソン氏、アップルの共同創業者スティーブ・ウォズニアック氏、そして元米軍関係者や元政治家らも名を連ねている。 

リストには元統合参謀本部議長のマイク・マレン氏、元国家安全保障問題担当大統領補佐官のスーザン・ライス氏、サセックス公爵夫妻、ハリー王子とメーガン・マークル氏、元アイルランドdent のメアリー・ロビンソン氏も名を連ねている。.

著名なコンピュータ科学者ヨシュア・ベンジオ氏は、このイニシアチブのウェブサイトに掲載された声明の中で、連合の懸念について言及し、AIシステムは近い将来、認知タスクにおいてほとんどの人間を上回る可能性があると述べた。ベンジオ氏は、テクノロジーは地球規模の問題の解決に役立つ可能性があるものの、無謀に開発されれば計り知れない危険をもたらすと改めて強調した。.

「スーパーインテリジェンスへと安全に進化するためには、誤作動や悪意ある使用によっても人間に危害を加えることが根本的に不可能なAIシステムを設計する方法を科学的に決定する必要があります」と彼は述べた。「また、私たちの集団の未来を形作る決定において、国民がよりtron発言権を持つようにする必要があります。」

2014年に テスラの CEOイーロン・マスク氏とハイテク投資家ヤーン・タリン氏の初期の支援を受けて設立された非営利団体「フューチャー・オブ・ライフ研究所」も、責任あるAIガバナンスを求めるキャンペーンを展開する団体の一つだ。 

同団体は、超知能AIや人工超知能（ASI）の構築競争が適切に規制されなければ、人類にとって取り返しのつかないリスクを生み出す可能性があると警告している。.

同団体は最新の声明で、超知能は「人類の経済的陳腐化、無力化、自由、公民権、尊厳、統制の喪失、国家安全保障への脅威、さらには人類の絶滅の可能性」につながる可能性があると指摘した。

FLIは政策立案者に対し、「国民のtron支持」と「そのようなシステムが安全に構築・管理できるという科学的コンセンサス」が得られるまで、超知能の研究開発を全面的に禁止するよう求めている。

AI開発をめぐりテクノロジー業界は分裂

AIが雇用や製品開発に及ぼす影響に反対する声もあるものの、テクノロジー大手は依然としてAIの能力の限界を押し広げようと努力を続けている。イーロン・マスクのxAI、サム・アルトマンのOpenAI、そしてMetaは、いずれも強力な大規模言語モデル（LLM）の開発に競い合っている。. 

7月、MetaのCEOマーク・ザッカーバーグ氏はカンファレンスで、超知能システムの開発は「目前に迫っている」と述べた。しかし、一部のAI専門家は、同CEOが今後数年間で数千億ドル規模の市場が見込まれる分野において自社が「先行している」と宣伝し、競合他社を脅すマーケティング戦略を使っていると主張している。.

米国 政府 とテクノロジー業界は、AI開発の一時停止を求める声に抵抗し、「AIによる終末論」への懸念は著しく誇張されていると主張している。開発の一時停止に反対する人々は、それがイノベーションを阻害し、経済成長を鈍化させ、AIが医療、気候科学、自動化にもたらす可能性のある恩恵を損なうと述べている。

しかし、FLIが委託した全国世論調査によると、アメリカ国民は概ねより厳格な監督を支持している。2,000人の成人を対象としたこの調査では、dentの4分の3が高度なAIに対する規制強化を支持し、10人中6人が超人的なAIは制御可能であることが証明されるまで開発されるべきではないと考えていることが明らかになった。. 

サム・アルトマン氏はOpenAIの最高経営責任者に就任する前、2015年のブログ投稿で「超人的な機械知能はおそらく人類の存続に対する最大の脅威である」と警告していた。

同様に、AIの発展に資金提供と反対運動を同時に行ってきたイーロン・マスクは、今年初めに ジョー・ローガンのポッドキャスト 、AIが人間の知能を凌駕することによって人類が滅亡する可能性は「わずか20％」だと述べた。