Законопроект Сената сделает безопасность передового ИИ юридической обязанностью, а не просто обещанием

Согласно Reuters, переговорщики в Сенате США рассматривают законодательство, которое юридически потребует от разработчиков самых продвинутых моделей ИИ защищаться от катастрофических последствий и может дать федеральному правительству право блокировать небезопасные выпуски. Reuters.

Для ведущих компаний в сфере ИИ это превратит стандарты безопасности из преимуществально добровольных усилий в юридическую обязанность. Более широкий вопрос для рынка заключается в том, будут ли более строгие регулирования способствовать доверию со стороны потребителей и инвесторов или просто укрепят позиции нескольких компаний, которые могут себе это позволить.

От добровольных обещаний к «долгу заботы»

Согласно Reuters, предложение стремится создать то, что называется «долгом заботы» для разработчиков моделей передового ИИ. Для этой цели рассматриваются различные положения. Предложение включает требования к: разработчикам создавать модели ИИ, минимизирующие катастрофические риски; зарезервированному праву правительства США блокировать небезопасные модели ИИ; судебным апелляциям против решений правительства; и участию национальных лабораторий и правительственных партнеров в тестировании ИИ. Это предложение, возможно, будет иметь приоритет над некоторыми существующими законами штатов, регулирующими те же вопросы.

Согласно Reuters, технологические компании США, занимающиеся разработкой передового ИИ, — это Google (Alphabet), Anthropic и OpenAI.

В переговорах участвуют лидер большинства в Сенате Джон Тьюн, председатель Комитета по торговке Тед Круз и сенатор Эми Клобучар, также вовлечена сенатор Мария Кантуэлл.

Клобучар сказала Reuters, что ее цель:

«государственный надзор за наибольшими рисками, которые представляют модели ИИ»

Этот надзор, по ее словам, должен включать требование к разработчикам сотрудничать с государственными экспертами для проверки и тестирования продвинутых моделей.

Круз выдвинул аналогичное предложение, которое указывает на некоторые из худших сценариев развития передового ИИ. В посте в X Круз заявил, что он сотрудничает с Клобучар и Тьюном для:

«устранение катастрофических рисков, связанных с биологическими или ядерными угрозами»

Эти опасения объясняют, почему переговорщики концентрируют свои усилия на самых функциональных моделях, а не требуют одинаковых положений от всей индустрии ИИ.

Еще одним важным аспектом является вопрос о том, должны ли федеральные регулирования превосходить некоторые ограничения на уровне штатов. Этот подход в целом согласуется с законодательной рамкой ИИ администрации Трампа, которая утверждает, что хаотичный набор законов штатов будет препятствовать развитию технологий ИИ в Америке, и призывает вместо этого к более последовательной национальной рамке.

Почему законодатели перестали рассматривать риски как теоретические

Законодатели реагируют не только на теоретические ситуации, но и на инциденты с самостоятельным поведением агентов ИИ и проникновением во внешние системы, а также на опасения, высказанные исследователями, работающими в крупных отраслевых компаниях.

IAPP указал, что переговоры были инистрированы уходом Джейкоба Коксона, бывшего исследователя Anthropic, и его опасениями по поводу гонки к самоусовершенствующемуся ИИ.

Требования на Капитолийском холме растут. Сенатор Джош Хоули расследует роль OpenAI в кибератаке на Hugging Face, произошедшей в июле, в то время как сенатор Берни Сандерс работает над законопроектом, направленным на приостановку развития суперинтеллекта, как сообщается в IAPP.

OpenAI также выступает за федеральное законодательство, имеющее силу закона. В статье о политике, опубликованной 9 сентября, Крис Леан, главный директор по глобальным вопросам, призвал к:

«обязательное национальное регулирование безопасности ИИ, основанное на возможностях».

Это ставит определенную часть индустрии и Конгресс на одну сторону в важном вопросе о том, достаточно ли добровольных мер защиты.

Европа уже регулирует свои самые рискованные модели

Соединенные Штаты не будут плыть по неизведанным водам. Закон об ИИ Европейского союза возложил новые обязанности на провайдеров моделей ИИ общего назначения, которые могут представлять системный риск. Обязанности касаются оценки моделей, управления рисками, отчетности об инцидентах, а также вопросов, связанных с кибербезопасностью.

Любая модель, превышающая порог вычислительной мощности в 10^25 FLOP, будет считаться потенциально системной по своей природе. Однако Европейская комиссия имеет право классифицировать менее производительные модели аналогичным образом на основе других критериев, таких как возможности или эффекты.

Стоимость соблюдения требований может благоприятствовать крупнейшим лабораториям

Финансовые ставки огромны. Согласно исследованиям Goldman Sachs, глобальные инвестиции в ИИ, как ожидается, достигнут около $1 трлн в 2026 году, из которых $581 млрд придется на США.

Новые требования к тестированию, юридическому сопровождению и документации могут повлиять на графики выпуска моделей, бюджеты инфраструктуры, оценки и сроки IPO. Новые требования также могут дать преимущество крупным игрокам, поскольку небольшие компании могут не справиться с затратами.

Это напряжение уже видно на рынке капитала. Согласно Cryptopolitan, Дэвид Сакс призвал к приостановке IPO Anthropic до проверки обвинений в вопросах безопасности, выдвинутых Коксоном. Инвесторы Anthropic обсуждали оценку примерно в $2 трлн, что сделало безопасность передовых моделей вопросом беспокойства не только для регуляторов, но и для инвесторов.

Прогресс законопроекта, однако, неопределен. Как сообщается Reuters, Палата представителей будет заседать только одну неделю в подготовке к промежуточным выборам 3 ноября, в то время как Сенаторы, как ожидается, останутся на три недели. Даже если участвующие стороны достигнут соглашения во время переговоров, ограниченное количество законодательных дней может стать серьезным препятствием для принятия законопроекта.