英国政府は、AI安全研究所の初の海外事務所を今夏米国に開設する計画を発表した。
こちらもお読みください:技術の進化における英国と米国の AI 安全性協定の役割
月曜日に発表された声明の中で、英国のミシェル・ドネラン科学技術長官は、新しい米国事務所はサンフランシスコに設置されると述べた。 この都市には、OpenAI、Anthropic、Inflection AI などの大手 AI 企業がいくつかあります。
英国、AIの安全性に関して米国とのパートナーシップ強化を目指す
米国に本拠を置く同事務所は、今年後半に業務を開始するにあたり、リサーチディレクターが率いる技術スタッフのチームの採用を検討する予定だ。 同研究所のロンドン本部には現在、30人を超える技術スタッフのチームがいる。
同技術長官は、同研究所の拡大は英国のAI分野でのリーダーシップを表しており、米国政府との緊密な協力関係を確立すると述べた。
これは英国がAIのリスクと可能性の両方を世界的な視点から研究できる極めて重要な瞬間であり、英国がAIで世界をリードし続ける中で米国とのパートナーシップを強化し、他国が英国の専門知識を活用できる道を切り開くことになる。安全性。
ミシェル・ドネラン氏、英国科学技術長官。
ドネラン氏は、研究所は「強さから強さへ」成長したと語る
英国政府は 2023 年 11 月に AI 安全性研究所を導入しました。その目標は「AI の急速かつ予期せぬ進歩による英国と人類への驚きを最小限に抑えること」であると述べています。
こちらもお読みください:英国政府が AI 安全性研究所の設立を発表
同研究所は主に、国家安全保障の観点から「フロンティア」AI システムを評価することに重点を置いています。 英国政府は、この措置により、自国の管轄内に導入されたAIアプリケーションに対する効果的な政策と規制上の対応を策定できるようになると述べた。
首相と私が AI 安全性協会を設立して以来、わずか 1 年余りで、AI 安全性協会はますます強力に成長してきました。
ミシェル・ドネラン氏、英国科学技術長官。
同研究所がモデルテストの結果を公表
英国の AI 安全性研究所は、AI モデルの安全性テストの結果を公表した最初の政府支援機関であると伝えられています。 同研究所は、名前は明らかにしていないが、公的に利用可能な5つの大規模な言語モデルをテストした。
AI の安全性はまだ非常に新しく、新興の分野です。 […] 私たちの目標は、国家安全保障関連のリスクに重点を置き、最先端の評価を開発することで、この分野の最前線を開拓し続けることです。
イアン・ホガース氏、英国 AI 安全性協会会長。
いくつかのモデルがサイバーセキュリティの課題を完了したと述べた。 ただし、それらはすべて、基本的な「脱獄」に対して非常に脆弱であることが判明しました。 一部のモデルでは、安全装置を回避する意図的な試みがなかった場合でも、有害な結果が生じました。
Ibiam Wayas によるクリプトポリタンのレポート
キーの違いワイヤは、暗号ブランドが速く見出しを突破して支配するのに役立ちます
