英国政府、AI安全研究所の設立を発表

英国政府は、フロンティアAIタスクフォースの重要な機能を継承するAI安全研究所の設立を発表しました。フロンティアAIタスクフォースは、引き続き科学・イノベーション・技術省（DSIT）の傘下となります。研究所はタスクフォースが開始した安全性に関する研究と評価を継続しますが、公共部門におけるAIの新たな用途のdentや英国のAI能力の強化に関する政策関連の責任は、引き続きDSITが担います。.

継続的なミッションと協力

AI安全研究所の主目的は、AIの急速な進歩による予期せぬ影響を軽減することであり、AIの進歩に起因する予期せぬ混乱を防ぐという政府の戦略と整合しています。リシ・スナック首相は、この研究所がAIの安全性に関する世界的な中核としての役割を担うと明言し、急速に進化するこの技術の可能性と危険性の両方を評価する上で、研究所が主導する重要な研究を強調しました。.

ミシェル・ドネラン技術長官は、補足声明の中で、AI安全研究所が国際的なベンチマークを設定し、最先端のAI機能に伴うリスク管理について世界中の政策立案者に重要な指針を提供できると確信していると述べた。研究所の協力的な取り組みは、DSIT内に最近設置された中央AIリスク機能を含む様々な分野に広がり、AI開発と安全性の最先端分野における最新の知見を政府全体に広めていく。.

運用目標と国際的な認知

公式発表では、AI安全研究所がAIモデルに内在する潜在的なリスクへの対処に重点を置き、AIの最新技術のリリース前とリリース後に、その進歩を綿密に精査していくことが確認されました。この包括的なアプローチは、偏見や誤情報といった社会的な課題から、人類によるAIの完全な制御の喪失といった、より極端ではあるものの実現可能性は低いシナリオまで、多様なリスクの評価を網羅しています。.

さらに、当研究所は、データサイエンスとAIの国立研究機関であるアラン・チューリング研究所と緊密な連携を構築し、効果的なAI安全戦略と実践の探求に取り組んでいきます。当研究所の設立は世界的に概ね好意的に受け止められており、米国、カナダ、シンガポール、日本といった主要国からの支持も得ています。ドイツ政府も潜在的な協力に関心を示しており、この分野における協力の機会を模索する意欲を示しています。.

国際協力と将来の展望

英国は既に、米国AI安全研究所およびシンガポール政府とのパートナーシップを強化しており、特にAIの安全性試験に関する協力に重点を置いています。シンガポール政府の積極的なアプローチは、強固な国際協力の基盤を築き、世界規模でのAIの安全性基準と実践の発展に大きく貢献することが期待されます。.

新たに設立されたAI安全研究所は、AIリスク評価と管理に対する政府のアプローチの変革を象徴するものです。当初はAI財団モデルタスクフォースとして知られていたこのイニシアチブは、4月に設立され、G7諸国政府内で初めて、最先端のAIモデルに関連するリスクを評価する専門チームを編成することを任務としていました。その後、9月に名称が変更され、タスクフォースの最初の進捗報告書が発表されましたが、これはその責務の重要性と範囲の拡大を反映しています。.

政府は、6月にタスクフォースの議長に就任したイアン・ホガース氏にAI安全研究所の所長を任命した。研究所は、最高責任者の任命に向けた人材募集を開始する計画が進行中であり、その重要な任務を先導する有能で経験豊富なチームを編成するというコミットメントを固めている。.

英国政府が2日間にわたり開催した重要なグローバルAI安全サミットの閉幕に際し、AI安全研究所の設立は、AI技術の急速な進歩に伴うリスクを効果的に管理・回避するための英国の取り組みにおいて、重要なマイルストーンとなりました。共同作業と国際的なパートナーシップに重点を置く同研究所は、急速に進化するテクノロジー環境における包括的なリスク評価と管理の高水準を確立し、AIの安全性確保に向けた世界的な取り組みの礎となることが期待されます。.