商務省傘下の米国AI安全協会は、指導チームに新たに5人のメンバーを発表した。 5人の新メンバーの中には、人工知能の開発が人類を滅ぼす可能性が50％あると予測した人もいる。 しかし、これは彼の唯一の紹介ではありません。 彼のベルトの下にはいくつかの非常に重要な革新があります。
AI 安全性チームの新しいメンバー
人工知能が人類の実存的脅威になるという議論はかなり長い間行われてきたが、多くの専門家は、それは誇張され誇張されており、この種の予測はこの分野の進歩を妨げる可能性があると述べている。 新しく任命されたチームの当面の任務は、国立標準技術研究所 (NIST) の下でのこの害に対する認識に反して、AI が人々にとって有益になるような方法で開発を促進することです。
NIST所長兼商務次官（標準技術担当）のローリー・E・ロカシオ氏は次のように述べた。
「安全で信頼できる AI の開発をサポートする測定科学の確立を支援するために、これらの才能ある専門家を米国 AI 安全性協会のリーダーシップ チームに迎えられることを非常にうれしく思います。 彼らはそれぞれ、研究所が将来に向けて AI の安全性のための強固な基盤を構築するのに役立つユニークな経験をもたらします。」
新しいメンバーの中には、カリフォルニア大学情報科学研究所の AI 部門の責任者でもある最高ビジョン責任者のアダム・ラッセル氏も含まれます。 ロブ・ライヒ教授が上級顧問となります。彼はスタンフォード大学出身で、人間中心AI研究所の副所長を務めており、政治学の専門家でもあります。
マラ・キンテロ・キャンベルは最高執行責任者兼首席補佐官に任命され、現在は商務省経済開発局で副最高執行責任者として勤務しています。 国際関与責任者のマーク・ラトネロ氏はホワイトハウス科学技術政策局の出身で、国家AIイニシアチブ局の副所長を務めている。
破滅的な AI を搭載 - しかし、それだけではありません
AIドゥーマーと呼ばれる新メンバーが他でもないポール・クリスティアーノだ。 彼はチームの AI 安全性責任者に任命されています。 彼は元 OpenAI 研究者であり、Alignment Research Center の創設者です。 彼は人間のフィードバックを組み込んだ、強化学習として知られる基本的な AI 安全技術の発明者でもあります。 彼がAI破滅者というレッテルを貼られたのは、ポッドキャストで人類のAIの野望が破滅に終わる可能性について尋ねられたときで、それに対して彼は人類が破滅することについてかなりの懸念を示したと述べた。
「AIが乗っ取る可能性はおそらく10～20％くらいあると思いますが、多くの人間が死亡します。私はそれをかなり真剣に受け止めています。」
彼はこうも言いました。
「総合的に見て、人間レベルの AI システムを導入した直後に、破滅の可能性は 50/50 に達する可能性が高くなります。」
出典: バンクレスポッドキャスト。
クリスティアーノ氏は、ホストのデビッド・ホフマン氏やライアン・ショーン・アダムス氏とともにバンクレスのポッドキャストでこうした考えを表明したが、自分の見解は完全な破滅シナリオを示唆する有名なAI破滅者エリーザー・ユドコウスキー氏ほど極端ではないと主張する。
ジーナ・ライモンド米国商務長官も、責任あるAIに関する世界的なリーダーシップを守り、 AIの安全性、AIに関連するリスクを軽減するには、国内の優秀な人材が必要であり、だからこそこれらの人材が選ばれるのだと述べた。それぞれの分野で活躍し、米国 AI 安全性研究所の経営幹部チームに加わることになりました。
米国商務省のプレスリリースはここで。
