ノーベル賞受賞者が政治家や科学者と共に、危険なAIの使用を制限するための緊急の呼びかけに加わる

AI技術の乱用を抑制するための拘束力のある国際的な制限に政府が合意するよう働きかけるキャンペーンは、国連レベルでエスカレートしており、10人のノーベル賞受賞者を含む200人以上の 主要な政治家、科学者、思想家が、この技術のリスクについて警告を発している。

月曜日に国連総会のハイレベルウィークの開幕に合わせて発表されたこの声明は、「AIに関するグローバル・レッドラインへの呼びかけ」と呼ばれている。これは、AIの「現在の軌道が前例のない危険をもたらしている」と主張し、2026年末までに明確で検証可能な制限に関する国際合意に向けて各国が取り組むことを求めている。

ノーベル賞受賞者が国連で陳情を主導

この陳情は、ノーベル平和賞受賞者でジャーナリストのマリア・レサによって明らかにされ、彼女は開幕演説で政府に対し、「普遍的に受け入れられないリスクを防止」し、AIが決して許可されてはならない行為を定義するよう促した。

声明の署名者には、化学、経済、平和、物理学の分野でノーベル賞を受賞した人々や、スティーブン・フライやユヴァル・ノア・ハラリなどの著名な著者が含まれている。元アイルランド大統領のメアリー・ロビンソンや、ノーベル平和賞受賞者でもある元コロンビア大統領のフアン・マヌエル・サントスも名前を連ねた。

「AIの父」として広く知られ、コンピュータサイエンスのノーベル賞と見なされているチューリング賞受賞者のジェフリー・ヒントンとヨシュア・ベンジオも、声明に署名した。

「これは転換点だ」とハラリは語った。「人類は、テクノロジーが社会を私たちの理解を超えて変革し、人間性の基盤を破壊する前に、AIに関する明確なレッドラインで合意しなければならない。」

AIに関する警鐘を鳴らすこれまでの取り組みは、企業や政府による自主的なコミットメントに焦点を当てることが多かった。2023年3月、イーロン・マスクを含む1,000人以上のテクノロジーリーダーが、強力なAIシステムの開発を一時的に停止するよう呼びかけた。数ヶ月後、OpenAIのサム・アルトマンやGoogle DeepMindのデミス・ハサビスなどのAI執行役者は、AIの存続危機リスクが核戦争やパンデミックに匹敵するという短い声明に署名した。

AIは存続危機および社会的リスクへの恐怖を煽る

先週、AIは10代の少年の自殺から、世論操作に使用されたという報告まで、さまざまな事案に関与していた。

声明の署名者たちは、これらの差し迫ったリスクがまもなくより大きな脅威に覆い隠される可能性があると考えている。評論家は、制御されない場合、高度なAIシステムが大量の失業、人為的なパンデミック、または体系的な人権侵害をもたらす可能性があると警告している。

機密保持リストに含まれる項目の一部には、致死性自律型兵器の禁止、自己複製型AIシステムの禁止、およびAIが核戦争で決して展開されないようにすることが含まれる。

「AIが人類に深刻かつ潜在的に回復不能な損害を与えるのを防ぐことは、私たちの重要な共通の利益であり、私たちはそれに応じて行動すべきです」と、2013年に彼のリーダーシップの下でノーベル平和賞を受賞した化学兵器禁止機関（OPCW）の元事務局長であるアフメト・ウズムジュは語った。

英国のシンクタンクであるデモスや北京のAI安全性・ガバナンス研究所など、60以上の市民社会団体がこの書簡に署名している。この取り組みは、カリフォルニア大学バークレー校の人間互換性AIセンター、ザ・フューチャー・ソサエティ、そしてフランスのAI安全性センターという3つの非営利団体によって調整されている。

OpenAIやAnthropicなどの企業が、モデルをリリースする前に政府によるテストを行うことに合意するなど、最近の安全に関する誓約にもかかわらず、研究によると、企業はコミットメントの約半分しか履行していないことが示唆されている。

「私たちは待つ余裕がありません」とレサは語った。「AIが私たちの制御能力を超えて進化する前に、行動しなければなりません。」