ノーベル賞受賞者らが政治家や科学者らとともに、危険なAI利用の抑制を緊急に呼びかけ

AI技術の悪用を抑制するための拘束力のある国際的制限に各国政府が同意するよう促す運動は、 ノーベル賞受賞者10名を含む200名を超える主要な政治家、科学者、思想的リーダーがこの技術のリスクについて警告を発するなか、国連レベルにまでエスカレートしている。

国連総会ハイレベルウィークの開幕に合わせて月曜日に発表されたこの声明は、「AIに関するレッドラインを求めるグローバルな呼びかけ」と題されている。声明は、AIの「現在の動向は前例のないdentな危険をもたらしている」と主張し、各国に対し、2026年末までに明確かつ検証可能な制限に関する国際合意の締結に向けて取り組むよう求めている。.

ノーベル賞受賞者が国連で訴えを主導.

この嘆願はノーベル平和賞受賞者でジャーナリストのマリア・レッサ氏によって明らかにされ、レッサ氏は冒頭の演説で各国政府に対し「普遍的に受け入れがたいリスクを予防する」ことと、AIに決して許されるべきではないことを defiことを求めた。.

声明の署名者には、化学、経済学、平和、物理学のノーベル賞受賞者に加え、スティーブン・フライやユヴァル・ノア・ハラリといった著名な作家も名を連ねています。アイルランド元大統領のメアリー・ロビンソンdent 、そして同じくノーベル平和賞受賞者であるコロンビア元dent のフアン・マヌエル・サントス氏も署名しました。.

「AIのゴッドファーザー」として広く知られ、コンピューターサイエンス界のノーベル賞と広く考えられているチューリング賞を受賞したジェフリー・ヒントン氏とヨシュア・ベンジオ氏も声明に署名した。.

「これは転換点だ」とハラリ氏は述べた。「AIが私たちの理解を超えて社会を変容させ、人間性の基盤を破壊する前に、人類はAIに関して明確な一線を画す合意を結ばなければならない」

これまでAIに対する警鐘を鳴らす取り組みは、企業や政府による自主的な取り組みに重点が置かれてきた。2023年3月には、イーロン・マスク氏を含む1000人以上のテクノロジーリーダーが、強力なAIシステムの開発を一時停止するよう呼びかけた。数か月後には、OpenAIのサム・アルトマン氏や Google DeepMindの デミス・ハサビス氏といったAI幹部が、AIがもたらす存亡の危機を核戦争やパンデミックの危機に匹敵するものと位置づける短い声明に署名した。

AIは実存的および社会的リスクへの恐怖をかき立てる

先週だけでも、10代の若者の自殺から、公の議論を操作するためにAIが使われたという報告まで、さまざまな事件にAIが関与していることが判明した。.

呼びかけのmatic 人権侵害につながる可能性があると警告している。署名者たちは、これらの差し迫ったリスクは、より大きな脅威によってすぐに覆い隠されてしまう可能性があると主張している。評論家たちは、高度なAIシステムが放置された場合、大量失業、人為的なパンデミック、あるいは

禁輸リストに含まれる項目には、致死性の自律型兵器の禁止、自己複製型AIシステムの禁止、AIが核戦争に決して配備されないことの保証などが含まれている。.

「AIが人類に深刻かつ取り返しのつかない損害を与えるのを防ぐことは、私たちの極めて重要な共通の利益であり、それに応じて行動すべきだ」と、化学兵器禁止機関（OPC）の元事務局長で、2013年のノーベル平和賞を受賞したアフメト・ウズムジュ氏は述べた。.

この書簡には、英国を拠点とするシンクタンクDemosや北京AI安全ガバナンス研究所など、60以上の市民社会団体が署名しています。この取り組みは、カリフォルニア大学バークレー校の人間適合型AIセンター、フューチャー・ソサエティ、そしてフランスAI安全センターという3つの非営利団体によって調整されています。.

OpenAIやAnthropicなどの企業は最近、モデルを公開前に政府によるテストを受けることに同意し、安全性を誓約しているが、調査によると、企業は約束の約半分しか果たしていないことが示唆されている。

「待っている余裕はありません」とレッサ氏は述べた。「AIが人間の制御能力を超えて進化する前に、行動を起こさなければなりません。」