- 米国商務省は、米国のAI安全性研究所に5人の新メンバーを任命しました。
- その一人は「AIドゥーマー」として有名ですが、それ以外にも多くの実績があります。
- このチームは、技術開発および国家安全保障に関連するAIの基準策定に取り組む予定です。
商務省傘下の米国AI安全性研究所は、リーダーシップチームの5人の新メンバーを発表しました。5人の新メンバーの中には、人工知能の開発が人類の終焉に至る確率が50%であると予測した人物が含まれています。しかし、これが彼の唯一の紹介ではありません。彼の経歴には、非常に重要なイノベーションがあります。
AI安全性チームの新メンバー
人工知能が人類にとって存立の脅威になるという議論が長年行われてきましたが、多くの専門家はそれが過大評価され、過剰に喧伝されていると言っており、このような予測は分野の進歩を妨げる可能性があります。新たに任命されたチームの課題は、国家標準技術研究所（NIST）の下での危害の認識に対抗し、AIが人々に有益になるような方法で開発を促進することです。
標準技術担当商務次官兼NIST所長のローリー・E・ロカシオ氏は、次のように述べました。
「安全で信頼性の高いAIの開発を支える計測科学を確立するのを支援するために、これらの才能ある専門家を米国AI安全性研究所のリーダーシップチームに迎え入れることを大変嬉しく思います。彼らはそれぞれ、将来のAI安全性のための研究所の堅固な基盤を構築するのに役立つ独自の経験を持っています。」
新メンバーの中には、カリフォルニア大学情報科学研究所のAI部門のディレクターでもあるAdam Russell氏（チーフビジョンオフィサー）が含まれています。Rob Reich教授はシニアアドバイザーを務め、スタンフォード大学出身で、人間中心AI研究所の副所長を務め、政治学の専門家でもあります。
マラ・キンテロ・キャンベルは最高経営責任者（COO）およびチーフ・オブ・スタッフに任命され、現在、商務省の経済開発庁で副最高経営責任者を務めています。マーク・ラトネロは国際エンゲージメントの責任者となり、ホワイトハウス科学技術政策局から、国家AIイニシアチブオフィスの副ディレクターとして着任します。
AIドゥームズナー（人類滅亡論者）が乗船—but there is more to it
AIドゥームズナーとして呼ばれている新メンバーは、ポール・クリスチャン氏その人です。彼はチームのAI安全責任者に任命されました。元OpenAIの研究者であり、アライメント・リサーチ・センターの創設者でもあります。また、人間のフィードバックを取り入れた「強化学習」という基礎的なAI安全技術の発明者でもあります。彼がAIドゥームズナーというレッテルを貼られたのは、ポッドキャストで「人間のAIへの野心が破滅的な結末を迎える可能性」を問われた際、人類が破滅する可能性について非常に懸念を示したためです。彼はこう述べています。
「AIによる支配が起こる確率は10〜20%程度ではないかと思っています。多くの人間が死亡する事態です。私はこれを非常に真剣に受け止めています。」
また彼は、
「全体として、AIシステムが人間レベルに達した直後には、破滅的な結末を迎える確率が50/50（半分半分）に高まる可能性もあります。」
出典：Banklessポッドキャスト。
クリスチャン氏は、デイビッド・ホフマンとライアン・ショーン・アダムズが司会を務めるBanklessポッドキャストでこれらの見解を述べましたが、彼の意見は、完全な破滅シナリオを提唱している有名なAIドゥームズナーであるエリザー・ユドコフスキーほど極端ではないと強調しています。
米商務長官のジーナ・ライモンダ氏もまた、責任あるAIにおけるグローバルリーダーシップを保護し、AIの安全性を確保して関連するリスクを軽減するためには、国のトップタレントが必要であり、そのためこれらの個人が選ばれ、各自の分野で最高峰の者が米国AI安全性研究所の執行リーダーシップチームに加わることになったと述べました。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項： ここに提供される情報は取引助言ではありません。Cryptopolitan.comは、このページに記載された情報に基づいて行われた投資について一切の責任を負いません。投資判断を下す前に、独立した調査および/または資格のある専門家への相談を強く推奨します。
アミール・シェイク
Aamir氏は、暗号資産およびテクノロジー業界でほぼ6年の経験を持つテックジャーナリストです。MAJ大学を修了し、財務・マーケティング分野でMBAを取得しました。現在はCryptopolitanで勤務し、暗号資産市場の最新動向や価格予測について報じています。
