連邦政府、AI安全研究所に5人の新メンバーのうち「AIドゥーマー」を任命

米国商務省傘下のAI安全研究所は、リーダーシップチームに新たに5名のメンバーが加わることを発表しました。その5名の中には、人工知能の発展が人類を滅ぼす可能性は50%だと予測した人物もいます。しかし、彼のデビューはこれだけではありません。彼は他にも非常に重要なイノベーションをいくつも成し遂げています。.

AI安全チームの新メンバー

人工知能が人類にとって実存的な脅威となるという議論は長らく続いてきましたが、多くの専門家は、これは誇張され過ぎており、過大評価されていると指摘し、こうした予測は人工知能分野の進歩を阻害する可能性があると指摘しています。新設チームの課題は、米国国立標準技術研究所（NIST）が提唱するこの有害な認識に反し、AIが人類にとって有益なものとなるよう、開発を促進することです。.

NIST所長で商務省標準技術担当次官のローリー・E・ロカシオ氏は次のように述べた。

「これらの才能ある専門家を米国AI安全研究所のリーダーシップチームに迎え、安全で信頼できるAIの開発を支える測定科学の確立に貢献できることを大変嬉しく思います。彼らはそれぞれ独自の経験を持ち寄っており、研究所が将来に向けてAIの安全性のための強固な基盤を築く上で役立つでしょう。」

新メンバーには、カリフォルニア大学情報科学研究所AI部門のディレクターも務めるチーフビジョンオフィサーのアダム・ラッセル氏が含まれます。スタンフォード大学出身で、人間中心AI研究所の副所長を務め、政治学の専門家でもあるロブ・ライヒ教授がシニアアドバイザーを務めます。.

マーラ・キンテロ・キャンベル氏が最高執行責任者（COO）兼首席補佐官に任命されます。彼女は現在、商務省経済開発局で副COOを務めています。マーク・ラトネロ氏は国際関係担当責任者に就任します。彼はホワイトハウス科学技術政策局出身で、国家AIイニシアチブ・オフィスの副局長を務めています。.

AIの破滅論者が乗船中だが、それだけではない

AIドゥーマーと呼ばれる新メンバーは、他でもないポール・クリスティアーノ氏です。彼はチームのAI安全性責任者に任命されました。彼は元OpenAI研究者であり、Alignment Research Centerの創設者でもあります。また、人間のフィードバックを取り入れた強化学習と呼ばれるAI安全性の基礎技術の発明者でもあります。彼がAIドゥーマーと呼ばれるようになったのは、ポッドキャストで人間のAIへの野望が破滅に終わる可能性について質問された際に、人類が破滅することへの強い懸念を示したからです。 

「AIが世界を支配し、人類のほとんどが死ぬ可能性は10～20％くらいあると思います。私はそれをかなり真剣に受け止めています。」

彼はまたこう言った。

「全体的に見て、人間レベルの AI システムが導入されると、破滅の確率は 50/50 にまで高まるかもしれません。」

出典: Bankless ポッドキャスト。.

クリスティアーノ氏は、司会のデイビッド・ホフマン氏とライアン・ショーン・アダムス氏とのポッドキャスト番組「バンクレス」でこうした考えを述べたが、自身の見解は、完全な破滅のシナリオを提唱する有名なAI悲観論者エリエゼル・ユドコウスキー氏ほど極端ではないと主張している。.

ジーナ・ライモンド米国商務長官も、責任あるAIに関する世界的なリーダーシップを維持し、 AIの安全性 てそれに伴うリスクを軽減するためには、国のトップクラスの人材が必要であり、そのため、各分野で最も優秀な人材が選ばれ、 米国AI安全研究所。