Нью-Йорк принял закон, ограничивающий катастрофические последствия сбоев искусственного интеллекта

Законодатели Нью-Йорка приняли закон, направленный на предотвращение катастроф, вызванных искусственным интеллектом. Согласно законопроекту, штат намерен предотвратить участие моделей ИИ, созданных такими компаниями, как OpenAI, Google и Anthropic, в сценариях катастроф.

Согласно законопроекту, эти сценарии включают смерть или травмы более 100 человек или ущерб или убытки более чем на 1 миллиард долларов. Законопроект, известный как RAISE Act, представляет собой победу для движений, выступающих за безопасность ИИ. Эти движения потеряли силу за последние несколько лет, поскольку Кремниевая долина и администрация Трампа продолжали отдавать приоритет скорости и инновациям.

Инициаторами законопроекта RAISE Act выступают сторонники безопасности, включая лауреата Нобелевской премии Джеффри Хинтона и пионера исследований в области ИИ Ёшуа Бенгио. Если он будет подписан в качестве закона, он установит первый набор юридически обязательных стандартов прозрачности для ведущих лабораторий искусственного интеллекта в Соединенных Штатах Америки.

Нью-Йорк рассматривает законопроект RAISE Act для ограничения катастроф, вызванных ИИ

Законопроект RAISE Act содержит некоторые положения и цели, схожие с противоречивым законопроектом о безопасности ИИ SB 1047 в Калифорнии, который в итоге был наложен вето.

Однако соавтор законопроекта RAISE Act, сенатор штата Нью-Йорк Эндрю Гунардес, заявил в интервью, что он разработал законопроект таким образом, чтобы он не сдерживал инновации среди стартапов или академических исследователей — это была распространенная критика в адрес SB 1047. «Окно для внедрения защитных мер быстро закрывается, учитывая, как быстро развивается эта технология», — сказал сенатор Гунардес.

Сенатор также отметил, что большинство специалистов, хорошо разбирающихся в секторе ИИ, признали эти риски, что он назвал «тревожным». Тем временем законопроект RAISE Act передан на подпись губернатору Нью-Йорка Кэти Хохул, которая может либо подписать его, либо вернуть на доработку. Другой вариант — наложить вето на законопроект, что, вероятно, и произойдет.

Если законопроект будет подписан, RAISE Act потребует от некоторых крупнейших лабораторий ИИ в мире публиковать отчеты о безопасности и защите их моделей передового уровня. Законопроект также обязывает лаборатории ИИ сообщать о случаях нарушения безопасности, связанных с поведением моделей ИИ или кражей моделей злоумышленниками, если такие случаи произойдут.

Если технологические компании не будут соответствовать этим стандартам, RAISE Act наделяет генерального прокурора Нью-Йорка полномочиями налагать на них гражданские штрафы в размере до 30 миллионов долларов.

Законопроект RAISE Act направлен на регулирование лабораторий ИИ

Законопроект RAISE Act был разработан для регулирования крупнейших мировых компаний ИИ, включая те, что базируются в Калифорнии, такие как OpenAI и Google, а также те, что базируются в Китае, такие как DeepSeek и Alibaba. Требования законопроекта включают обязательную оговорку, которая применяется к компаниям, использовавшим более 100 миллионов долларов вычислительных ресурсов для обучения своих моделей ИИ и доступных для жителей Нью-Йорка.

Хотя законопроект RAISE Act в некотором роде схож с SB 1047, он решает некоторые проблемы, связанные с предыдущими законопроектами о безопасности ИИ.

Например, ни одна оговорка не требует, чтобы разработчики моделей ИИ имели аварийный выключатель на своих моделях, и она не возлагает ответственность на компании, которые пост-обучают свои модели, за критический вред. Тем не менее, согласно соавтору законопроекта RAISE Act, члену Ассамблеи штата Нью-Йорк Алексу Боресу, на законопроект Нью-Йорка есть сопротивление. Он назвал это сопротивление неудивительным, но добавил, что RAISE Act никоим образом не ограничит разработческие возможности технологических компаний.

«Законопроект NY RAISE Act — это еще одна глупая, глупая законодательная инициатива на уровне штата, которая лишь навредит США в то время, как наши противники устремляются вперед», — написал генеральный партнер Andreessen Horowitz Анжни Мидха в посте в X в пятницу.

Andreessen Horowitz и инкубатор стартапов Y Combinator активно выступали против SB 1047. Кроме того, сооснователь Anthropic Джек Кларк также выразил свое недовольство широтой охвата законопроекта RAISE Act, отметив, что он может представлять риски для небольших компаний.