Правительство Великобритании объявляет об учреждении Института безопасности ИИ

Правительство Великобритании объявило о создании Института безопасности ИИ, который возьмет на себя критически важные функции Целевой группы по передовому искусственному интеллекту (Frontier AI Taskforce), которая останется в ведении Министерства науки, инноваций и технологий (DSIT). Хотя Институт продолжит исследования и оценки безопасности, инициированные целевой группой, политические вопросы, касающиеся выявления новых применений ИИ в государственном секторе и усиления потенциала Великобритании в области ИИ, останутся в ведении DSIT.

Продолжение миссии и сотрудничество

Основная цель Института безопасности ИИ будет сосредоточена на смягчении непредвиденных последствий стремительного развития ИИ, что соответствует стратегии правительства по предотвращению неожиданных сбоев, вызванных прогрессом в области ИИ. Премьер-министр Риши Сунак подтвердил роль института как глобального центра безопасности ИИ, подчеркнув критически важные исследования, которые он проведет для оценки как потенциала, так и опасностей этой быстро развивающейся технологии.

В дополнительном заявлении министр технологий Мишель Доналан выразила уверенность в способности Института безопасности ИИ установить международный стандарт, предоставляя необходимую guidance политикам по всему миру в вопросах управления рисками, связанными с передовыми возможностями ИИ. Совместные усилия института будут распространяться на различные сектора, включая недавно созданную Центральную функцию по рискам ИИ в рамках DSIT, способствуя распространению актуальных знаний из переднего края разработки и безопасности ИИ по всему правительству.

Оперативные цели и международное признание

В официальном заявлении подтвердилось, что Институт безопасности ИИ будет тщательно изучать новые достижения в области ИИ до и после их выпуска, уделяя особое внимание устранению потенциальных рисков, присущих моделям ИИ. Этот комплексный подход включает оценку различных рисков, от социальных проблем, таких как предвзятость и дезинформация, до более экстремальных, хотя и маловероятных, сценариев, таких как полная потеря контроля над ИИ со стороны человечества.

Кроме того, институт установит тесные связи с Институтом Алана Тьюринга, национальным центром науки о данных и ИИ, в своей стремлении к эффективной стратегии и практике безопасности ИИ. Глобальная реакция на создание института в целом была положительной, с одобрением со стороны ведущих стран, таких как США, Канада, Сингапур и Япония. Правительство Германии также выразило заинтересованность в потенциальном сотрудничестве, сигнализируя о готовности исследовать возможности сотрудничества в этой области.

Международное сотрудничество и будущие перспективы

Великобритания уже укрепила партнерские отношения с Институтом безопасности ИИ США и правительством Сингапура, уделяя особое внимание совместным усилиям в области тестирования безопасности ИИ. Проактивный подход правительства заложил основу для прочного международного сотрудничества, которое, как ожидается, внесет значительный вклад в развитие стандартов и практик безопасности ИИ в глобальном масштабе.

Недавно созданный Институт безопасности ИИ знаменует собой трансформацию подхода правительства к оценке и управлению рисками ИИ. Изначально известная как Целевая группа по базовым моделям ИИ (AI Foundation Model Taskforce), инициатива была основана в апреле и была специально создана для формирования первой в правительстве G7 команды, занимающейся оценкой рисков, связанных с передовыми моделями ИИ. Последующее переименование в сентябре, сопровождавшееся выпуском первого отчета о прогрессе целевой группы, отразило растущую важность и масштаб ее обязанностей.

Правительство поручило Иэну Хогарту, который занял пост председателя целевой группы в июне, возглавить Институт безопасности ИИ. Ведутся планы по запуску набора сотрудников для назначения главного исполнительного директора, что укрепляет приверженность института формированию компетентной и опытной команды для руководства своей критически важной миссией.

По завершении двухдневного глобального саммита по безопасности ИИ, организованного правительством, создание Института безопасности ИИ стало значительной вехой в усилиях Великобритании по эффективному управлению и навигации в рисках, возникающих в результате стремительного развития технологии ИИ. С акцентом на совместные усилия и международные партнерства, институт готов стать краеугольным камнем в глобальном стремлении к безопасности ИИ, устанавливая высокий стандарт для комплексной оценки и управления рисками в этой быстро меняющейся технологической среде.