Великобритания переносит свой Институт безопасности ИИ в Сан-Франциско

Правительство Великобритании объявило о планах открыть первый зарубежный офис своего Института безопасности ИИ в Соединенных Штатах этим летом. 

Также читайте: Роль соглашения о безопасности ИИ между Великобританией и США в эволюции технологий

В заявлении, опубликованном в понедельник, министр науки и технологий Великобритании Мичелл Донеэн сказала, что новый офис США будет расположен в Сан-Франциско. В этом городе находятся некоторые из крупнейших ИИ-компаний, включая OpenAI, Anthropic и Inflection AI.

Великобритания стремится укрепить партнерство с США в области безопасности ИИ

Офис в США планирует нанять команду технических специалистов во главе с директором по исследованиям, когда он начнет работу позже в этом году. В настоящее время штаб-квартира Института в Лондоне имеет команду из более чем 30 технических специалистов.

Министр технологий сказал, что расширение Института представляет британское лидерство в сфере ИИ и установит тесное сотрудничество с правительством США. 

Это поворотный момент в способности Великобритании изучать как риски, так и потенциал ИИ с глобальной точки зрения, укрепляя наше партнерство с США и прокладывая путь для других стран, чтобы воспользоваться нашим опытом, поскольку мы продолжаем лидировать в мире в области безопасности ИИ.

Мичелл Донеэн, министр науки и технологий Великобритании.

Донеэн говорит, что Институт вырос «от силы к силе»

В ноябре 2023 года правительство Великобритании учредило Институт безопасности ИИ. По его словам, цель заключалась в том, чтобы «минимизировать сюрпризы для Великобритании и человечества от быстрых и неожиданных достижений в области ИИ». 

Также читайте: Правительство Великобритании объявляет об учреждении Института безопасности ИИ

Институт в первую очередь сосредоточен на оценке «граничных» систем ИИ с точки зрения национальной безопасности. По словам правительства Великобритании, это позволит разработать эффективные политические и регуляторные меры реагирования на приложения ИИ, развернутые в пределах его юрисдикции.

С тех пор как Премьер-министр и я основали Институт безопасности ИИ, он укреплялся и развивался, и за чуть более чем год достиг значительных успехов.

Мичелл Донеэн, министр науки и технологий Великобритании.

Институт публикует результаты тестирования своих моделей

По сообщениям, британский Институт безопасности ИИ является первой правительственной организацией, опубликовавшей результаты тестов безопасности своих моделей ИИ. Институт протестировал пять общедоступных больших языковых моделей, хотя не указывает их названия. 

Безопасность ИИ — это все еще очень молодая и развивающаяся область. […] Наша амбиция — продолжать продвигать границы этой области, разрабатывая передовые методы оценки, с акцентом на риски, связанные с национальной безопасностью.

Иэн Хогарт, председатель Института безопасности ИИ Великобритании.

В нем говорилось, что несколько моделей успешно прошли испытания по кибербезопасности. Однако все они оказались крайне уязвимыми к базовым «взломам» (jailbreaks). Некоторые модели выдавали вредоносные результаты даже при отсутствии преднамеренных попыток обойти меры защиты.

Репортаж Cryptopolitan от Ибиам Вайас