Белый дом рассматривает предварительную проверку моделей ИИ, тестируя новые границы технологического надзора

Белый дом рассматривает план проверки некоторых из самых мощных систем искусственного интеллекта перед их выпуском для общественности.

Предложение, впервые сообщенное The New York Times 4 мая, введет федеральный надзор на критическом этапе жизненного цикла ИИ, непосредственно перед развертыванием. Чиновники все больше обеспокоены тем, что передовые модели теперь способны выявлять и эксплуатировать уязвимости в программном обеспечении, лежащем в основе критической инфраструктуры.

Анализ, опубликованный The Conversation указывает на растущие доказательства того, что недавние системы ИИ могут обнаруживать большое количество уязвимостей в операционных системах и веб-браузерах. Эта возможность, хотя и ценна для оборонительной безопасности, также повышает ставки, если такие инструменты будут использованы неправильно или попадут в не те руки.

Возможности моделей требуют пересмотра политики

Обсуждение политики приобрело особую остроту после того, как Anthropic решила отложить более широкое распространение своей последней модели, Mythos. Внутреннее тестирование выявило передовые возможности в области кибербезопасности, включая способность выявлять многочисленные уязвимые недостатки. В ответ компания ограничила доступ ограниченной группе организаций, ответственных за критическую инфраструктуру, через свою инициативу «Project Glasswing».

Согласно The Conversation, Белый дом вмешался, когда Anthropic исследовала возможность расширения доступа, что сигнализирует о более активном подходе к надзору за ИИ, даже когда более широкая технологическая политика оставалась относительно ориентированной на рынок.

Беспокойство не ограничивается одной компанией или системой. Институт безопасности ИИ Великобритании сообщил в апреле, что OpenAI GPT-5.5 продемонстрировала сопоставимую производительность в задачах продвинутой кибербезопасности.

В одном из тестов, выделенных институтом, модель обратила процесс кастомной виртуальной машины и решила сложную задачу за минуты, что значительно быстрее, чем это сделал бы эксперт-человек с использованием профессиональных инструментов.

«Ключевым вопросом было, отражает ли это прорыв, специфичный для одной модели, или является частью более широкого тренда», — написали в своем отчете в институте. «Результаты ранней контрольной точки GPT-5.5 указывают на последнее.»

В совокупности результаты указывают на то, что эти возможности становятся общей чертой ведущих систем ИИ, а не изолированным прорывом.

Вопросы безопасности ИИ приобретают геополитическое измерение

Последствия выходят за рамки технологий и затрагивают национальную безопасность. Исследователи, упомянутые в The Conversation, предупреждают, что группы, связанные с государствами, могут использовать подобные инструменты для проведения киберопераций, потенциально нацеливаясь на инфраструктуру или экономические системы.

Уже есть ранние признаки этого сдвига. Anthropic сообщила о подозреваемых государственных акторах, использующих ее модели в кампаниях по шпионажу, затрагивающих десятки организаций. Тем временем Microsoft и OpenAI заявили в 2024 году, что группы, связанные с правительствами, используют ИИ для усиления кибератак.

В то же время исследователи все еще пытаются разобраться, как надежно контролировать эти системы. Работа, упомянутая в The Conversation, предполагает, что фильтры безопасности, применяемые после обучения, могут быть обойдены, в то время как некоторые модели могут казаться комплаентными, не полностью устраняя опасные возможности.

Это привело к растущему мнению среди политиков о том, что меры безопасности могут потребовать внедрения во время разработки модели, а не добавления позже.

Перспективы политики: фрагментированные рамки, растущее давление

Предложение США формируется в более широком, все еще развивающемся глобальном ландшафте регулирования:

• Закон ЕС об ИИ устанавливает рамочную основу, основанную на рисках, со строгими требованиями для приложений высокого риска, хотя он не предписывает централизованное одобрение для передовых моделей.
• Великобритания сделала ставку на добровольное сотрудничество через Институт безопасности ИИ Великобритании, сосредоточившись на партнерствах в области тестирования и оценки с разработчиками.
• Формирующийся подход США, похоже, движется в сторону прямого надзора за самыми передовыми системами, потенциально через предварительную проверку перед выпуском.

Законодатели начали более внимательно изучать эти вопросы, с слушаниями в конгрессе в апреле по вопросам безопасности и управления ИИ, хотя всеобъемлющее законодательство еще не продвинулось.

Если будет реализована, система предварительной проверки США представит сдвиг в сторону более раннего вмешательства, помещая надзор на тот этап, когда риски могут быть предвидены, а не после их материализации.

Такой шаг может установить неформальный глобальный стандарт, особенно учитывая концентрацию ведущих разработчиков ИИ в Соединенных Штатах. В то же время это повышает возможность того, что компании могут перенести части разработки или развертывания в регионы с меньшими ограничениями.

Задача для политиков заключается в балансе между инновациями и управлением рисками в области, где возможности развиваются быстро, а последствия неправильного использования могут быть далеко идущими.

На данный момент наиболее конкретные меры защиты остаются добровольными. Такие компании, как Anthropic, ограничивают доступ к чувствительным системам, в то время как организации, такие как Институт безопасности ИИ Великобритании, продолжают проводить независимые оценки.

Будет ли Соединенные Штаты формализовать свой подход — и будут ли другие страны согласовывать его с ним — станет ключевым фактором в формировании того, как ИИ будет регулироваться в ближайшие годы.