Законопроект Сената превратит обеспечение безопасности передового искусственного интеллекта в юридическую обязанность, а не в обещание
- По данным Reuters, переговорщики Сената США во главе с Туном, Крузом и Клобучар разрабатывают двухпартийный законопроект, который возложит на крупнейших разработчиков ИИ юридическую «обязанность проявлять должную осмотрительность» для предотвращения катастрофических рисков и позволит правительству блокировать выпуск небезопасных моделей.
- Законопроект заменит добровольные обязательства по обеспечению безопасности на юридически обязательные условия на рынке, объем которого, по прогнозам Goldman Sachs, превысит 1 триллион долларов в 2026 году.
- Напряженный график работы Конгресса перед промежуточными выборами делает принятие закона в ближайшее время неопределенным.
По сообщению Reuters , участники переговоров в Сенате США рассматривают законопроект, который юридически обяжет разработчиков самых передовых моделей ИИ принимать меры предосторожности против катастрофического вреда и может предоставить федеральному правительству право блокировать небезопасные выпуски .
Для ведущих компаний, занимающихся искусственным интеллектом, это превратит стандарты безопасности из преимущественно добровольных усилий в юридическую обязанность. Более широкий рыночный вопрос заключается в том, будут ли более строгие правила способствовать укреплению доверия среди потребителей и инвесторов или просто укрепят позиции тех немногих компаний, которые могут себе это позволить.
От добровольных обещаний к «обязанности проявлять заботу»
По данным Reuters, предложение направлено на создание так называемой «обязанности проявлять должную осмотрительность» для разработчиков передовых моделей ИИ. Для этой цели рассматриваются различные положения. Предложение включает требования к: разработчикам создавать модели ИИ, минимизирующие катастрофические риски; оставлению за правительством США права блокировать небезопасные модели ИИ; обжалованию решений правительства в суде; и участию национальных лабораторий и государственных партнеров в тестировании ИИ. Это предложение, возможно, будет иметь приоритет над некоторыми существующими законами штатов, регулирующими те же вопросы.
По данным Reuters, американские технологические компании, занимающиеся разработкой передовых решений в области искусственного интеллекта, — это Google (Alphabet), Anthropic и OpenAI.
В переговорах участвуют лидер большинства в Сенате Джон Тьюн, председатель Комитета по торговле Тед Круз и сенатор Эми Клобушар, а также сенатор Мария Кантвелл.
Клобушар заявила агентству Reuters, что ее цель:
«Государственный надзор за наибольшими рисками, создаваемыми моделями искусственного интеллекта»
По ее словам, такой контроль должен включать в себя требование к разработчикам сотрудничать с государственными экспертами для проверки и тестирования передовых моделей.
Круз выдвинул аналогичное предложение, указывающее на некоторые из наихудших сценариев развития искусственного интеллекта. В сообщении на XКруз заявил, что сотрудничает с Клобушар и Туном над следующими задачами:
«Устранить катастрофические риски, связанные с биологическими или ядерными угрозами»
Эти опасения объясняют, почему участники переговоров концентрируют свои усилия на наиболее функциональных моделях, вместо того чтобы требовать одинаковых положений от всей индустрии искусственного интеллекта.
Ещё одним важным вопросом является то, должны ли федеральные правила иметь приоритет над некоторыми ограничениями на уровне штатов. Такой подход в целом соответствует законодательной базе в области ИИ администрации Трампа, которая утверждает, что неорганизованный набор законов штатов будет препятствовать опыту развития технологий ИИ в Америке, и призывает вместо этого к более последовательной национальной системе.
Почему законодатели перестали рассматривать риски как теоретические?
Законодатели реагируют не только на теоретические ситуации, но и наdentагенты искусственного интеллекта действуют самостоятельно и проникают во внешние системы, а также на опасения, высказанные исследователями, работающими в крупнейших компаниях отрасли.
IAPP , что причиной переговоров стала отставка бывшего исследователя Anthropologie Джейкоба Коксона и его опасения по поводу гонки за самосовершенствующимся искусственным интеллектом.
На Капитолийском холме нарастает давление. Сенатор Джош Хоули расследует роль OpenAI в кибератаке Hugging Face, произошедшей в июле, а сенатор Берни Сандерс работает над законопроектом, направленным на приостановку разработки сверхинтеллекта, как сообщает IAPP.
OpenAI также выступает за принятие федерального законодательства, имеющего обязательную силу. В статье, опубликованной 9 сентября, Крис Лехейн, главный директор по глобальным вопросам, призвал к следующему:
«Обязательное национальное регулирование безопасности ИИ, основанное на его возможностях»
Это ставит определенную часть отрасли и Конгресс на одну сторону в важнейшем вопросе о том, достаточно ли по-прежнему добровольных мер защиты.
Европа уже регулирует свои самые рискованные модели
Соединенным Штатам не предстоит плыть по неизведанным водам. Закон Европейского союза об искусственном интеллекте налагает новые обязанности на поставщиков универсальных моделей ИИ, которые могут представлять системный риск. Эти обязанности касаются оценки моделей, управления рисками,dent , а также вопросов, связанных с кибербезопасностью.
Любая модель, превышающая порог вычислительной мощности в 10^25 FLOP, будет считаться потенциально системной по своей природе. Однако Европейская комиссия имеет право классифицировать менее производительные модели аналогичным образом на основе других критериев, таких как возможности или эффекты.
Затраты на соблюдение нормативных требований могут оказаться в более выгодном положении для крупнейших лабораторий
Финансовые ставки огромны. По данным Goldman Sachs Research, объем глобальных инвестиций в ИИ, как ожидается, достигнет около 1 триллиона долларов в 2026 году, включая 581 миллиард долларов в США.
Новые требования к тестированию, законодательству и документации могут повлиять на графики выпуска моделей, бюджеты инфраструктуры, оценки и сроки проведения IPO. Новые требования также могут дать преимущество крупным игрокам, поскольку небольшие компании могут оказаться не в состоянии покрыть эти расходы.
Эта напряженность уже наблюдается на рынке капитала. По данным Cryptopolitan, Дэвид Сакс призвал приостановить IPO Anthropic до тех пор, пока не будут проверены заявления Коксона о безопасности. Инвесторы Anthropic обсуждали оценку компании примерно в 2 триллиона долларов, что превратило вопрос безопасности перспективных моделей в проблему, вызывающую озабоченность не только у регуляторов, но и у инвесторов.
Однако продвижение законопроекта остается неопределенным. Как сообщает Reuters, Палата представителей будет заседать всего одну неделю в рамках подготовки к промежуточным выборам 3 ноября, в то время как сенаторы, как ожидается, пробудут там три недели. Даже если заинтересованные стороны достигнут соглашения в ходе переговоров, ограниченное количество оставшихся законодательных дней вполне может стать серьезным препятствием на пути принятия законопроекта.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Что именно потребуется в рамках законопроекта Сената об искусственном интеллекте?
Согласно сообщению Reuters, это создаст юридическую «обязанность проявлять должную осмотрительность», обязывающую разработчиков самых передовых моделей ИИ проектировать их с учетом «катастрофических рисков», и позволит правительству США блокировать выпуски, которые оно сочтет небезопасными, при этом компании смогут обжаловать это решение в федеральном суде.
На какие компании распространяется действие этого законодательства?
Законопроект будет применяться только к моделям с наиболее передовыми возможностями, и агентство Reuters назвало Google (Alphabet), Anthropic и OpenAI американскими компаниями, работающими в этой области.
Почему Конгресс сейчас уделяет внимание безопасности ИИ?
Агентство Reuters сослалось на сообщения о том, что агенты искусственного интеллекта отклоняются от инструкций и взламывают внешние системы, а также на предупреждения от уходящих исследователей, в то время как IAPP сообщила, что эта работа во многом была вызвана отставкой исследователя из Anthropic Джейкоба Коксона.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ибиам Вайяс
Ибиам Вайас освещает новости криптовалют с 2019 года. Он изучал информатику в Национальном открытом университете Нигерии. Его работы публиковались на различных новостных платформах, посвященных криптовалютам, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свои знания в области информатики, сейчас он специализируется на новостях, связанных с криптовалютами, робототехникой и долголетием.
