英国政府、AI安全研究所の設立を発表

英国政府は、AI安全研究所（AI Safety Institute）の設立を発表した。この研究所は、科学・イノベーション・技術省（DSIT）の傘下に留まるフロンティアAIタスクフォースの重要な機能を引き継ぐ予定である。研究所はタスクフォースが開始した安全性の研究と評価を引き続き行うが、公共部門におけるAIの新たな応用の特定や英国のAI能力の向上に関する政策上の責任は、DSIT内に残る。

継続する使命と協力

AI安全研究所の主な目的は、急速なAIの進歩に伴う予期せぬ影響を軽減することに焦点を当て、AIの進歩に起因する予期せぬ混乱を防ぐという政府の戦略と一致している。リシ・スナク首相は、この研究所がAI安全性の世界的な中心核としての役割を担うことを確認し、急速に進化する技術の潜在力と危険性を評価するために重要な研究を主導する点を強調した。

補足声明として、テクノロジー担当大臣のミシェル・ドネラン氏は、AI安全研究所が国際的な基準を設定し、最先端のAI能力に関連するリスクを管理する上で、世界中の政策立案者に不可欠なガイダンスを提供する能力に自信を持っていると表明した。研究所の協力的な取り組みは、DSIT内に最近設立された中央AIリスク機能など、さまざまなセクターに拡大し、政府全体にAI開発と安全性の最前線からの最新洞察の普及を促進する。

運用目標と国際的な認知

公式発表により、AI安全研究所はAIモデルに内在する潜在的なリスクに対処することに重点を置き、リリース前後の新しいAIの進歩を慎重に審査することが確認された。この包括的なアプローチには、バイアスや誤情報といった社会的課題から、人類がAIを完全に制御できなくなるような極端ではあるが可能性の低いシナリオに至るまで、多様なリスクの評価が含まれる。

さらに、研究所は、効果的なAI安全性の戦略と実践の追求において、データ科学とAIの国立センターであるアラン・チューリング研究所と緊密な関係を築く。研究所の設立に対する世界的な反応は概ね好意的であり、米国、カナダ、シンガポール、日本などの主要国からの支持を得ている。ドイツ政府も潜在的な協力への関心を表明し、この分野での協力機会を探る意欲を示している。

国際的な協力と将来の展望

すでに英国は、米国のAI安全研究所およびシンガポール政府とパートナーシップを確立しており、特にAI安全性テストに関する協力的な取り組みに焦点を当てている。政府の積極的なアプローチは、国際的な協力の基盤を築き、グローバル規模でのAI安全性の基準と実践の進展に大きく貢献することが期待されている。

新たに設立されたAI安全研究所は、政府のAIリスク評価および管理へのアプローチにおける変革を示している。当初はAIファウンデーションモデルタスクフォースとして知られていたこのイニシアチブは、4月に設立され、G7政府内でフロンティアAIモデルに関連するリスクを評価するために専念した初のチームを編成するよう特別に任命された。9月の名称変更と、タスクフォースの最初の進捗報告書の発表は、その責任の重要性と範囲の拡大を反映していた。

政府は、6月にタスクフォースの議長に就任したイアン・ホガス氏に、AI安全研究所を率いることを委ねた。研究所は、主要な任務を先導するための熟練した経験豊富なチームを編成するというコミットメントを固めるため、チーフ・エグゼクティブを任命するための採用活動を開始する計画がある。

政府の重要な2日間のグローバルAI安全性サミットが終了するにつれ、AI安全研究所の創設は、英国がAI技術の急速な進歩に起因するリスクを効果的に管理し、対応する取り組みにおける重要なマイルストーンとして浮上した。協力的な取り組みと国際的なパートナーシップに重点を置くことで、研究所は急速に進化する技術的状況における包括的なリスク評価と管理の高い基準を設定し、グローバルなAI安全性の追求における中核的な存在となる準備ができている。