Законодатели штата Нью-Йорк приняли законопроект, ограничивающий катастрофы, вызванные искусственным интеллектом. Согласно законопроекту, штат хочет предотвратить использование моделей ИИ, созданных такими компаниями, как OpenAI, Google и Anthropic, для создания сценариев катастроф.
Согласно законопроекту , эти сценарии включают гибель или травмы более 100 человек или ущерб или потери на сумму более 1 миллиарда долларов. Законопроект, известный как Закон RAISE, представляет собой победу для движений, продвигающих безопасность ИИ. В последние несколько лет эти движения потеряли свою силу, поскольку Силиконовая долина и администрация Трампа продолжали отдавать приоритет скорости и инновациям.
Законопроект RAISE Act поддерживают защитники безопасности, в том числе лауреат Нобелевской премии Джеффри Хинтон и пионер исследований в области искусственного интеллекта Йошуа Бенджио. Если он в конечном итоге будет подписан, законопроект установит первый набор законодательно закрепленных стандартов прозрачности для ведущих лабораторий искусственного интеллекта в Соединенных Штатах Америки.
В Нью-Йорке рассматривается законопроект RAISE Act, направленный на ограничение катастроф, вызванных использованием искусственного интеллекта
Закон RAISE содержит некоторые положения и цели, схожие с противоречивым законопроектом о безопасности ИИ SB 1047 в Калифорнии, который в итоге был ветирован.
Однако один из соавторов закона RAISE Act, сенатор штата Нью-Йорк Эндрю Гунардес, в интервью отметил, что он разработал законопроект таким образом, чтобы он не подавлял инновации среди стартапов или академических исследователей, что является распространенной критикой законопроекта SB 1047. «Время для установления ограничительных мер быстро сокращается, учитывая, как быстро развиваются эти технологии», — сказал сенатор Гунардес.
Сенатор также заявил, что большинство людей, хорошо разбирающихся в секторе ИИ, также осознают эти риски, что он назвал «тревожным» событием. Тем временем законопроект RAISE Act направляется на рассмотрение губернатору Нью-Йорка Кэти Хочул, где она может либо подписать его, либо отправить на доработку. Другой вариант — наложить вето на законопроект, что весьма вероятно.
Если закон RAISE Act будет в конечном итоге подписан, он обяжет некоторые из крупнейших в мире лабораторий искусственного интеллекта публиковать отчеты о безопасности и защите своих передовых моделей ИИ. Законопроект также обязывает лаборатории ИИ сообщатьdent, связанных с поведением моделей ИИ или о случаях кражи моделей ИИ злоумышленниками, если таковые произойдут.
Если технологические компании не будут соответствовать этим стандартам, закон RAISE наделяет генерального прокурора штата Нью-Йорк правом налагать на них гражданские штрафы в размере до 30 миллионов долларов.
Закон RAISE направлен на регулирование лабораторий, занимающихся искусственным интеллектом
Закон RAISE был разработан для регулирования деятельности крупнейших мировых компаний, занимающихся искусственным интеллектом, включая компании из Калифорнии, такие как OpenAI и Google , а также компании из Китая, такие как DeepSeek и Alibaba. В законопроект включено обязательное положение, которое распространяется на компании, использовавшие вычислительные ресурсы на сумму более 100 миллионов долларов для обучения своих моделей ИИ и доступные для жителей dent -Йорка.
Хотя закон RAISE в некотором смысле похож на законопроект SB 1047, он затрагивает некоторые из предыдущих законопроектов о безопасности ИИ.
Например, ни один пункт не обязывает разработчиков моделей ИИ иметь функцию аварийного отключения (kill switch) в своих моделях, и он не возлагает ответственность за критический ущерб на компании, которые проводят постобучение своих моделей. Тем не менее, по словам соавтора Закона RAISE, члена Ассамблеи штата Нью-Йорк Алекса Бореса, законопроект Нью-Йорка встретил сопротивление. Он назвал сопротивление неудивительным, но добавил, что Закон RAISE никоим образом не ограничит возможности технологических компаний в области разработки программного обеспечения.
«Закон NY RAISE — это еще один глупый, совершенно глупый законопроект на уровне штатов об искусственном интеллекте, который только навредит США в то время, когда наши противники стремительно опережают нас», — заявил генеральный партнер Andreessen Horowitz Анжней Мидха в пятничном посте на X.
Компания Andreessen Horowitz и стартап-инкубатор Y Combinator яростно выступали против законопроекта SB 1047. Кроме того, соучредитель Anthropic Джек Кларк также выразил недовольство слишком широким охватом закона RAISE Act, отметив, что он может представлять риски для небольших компаний.
