Губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект об искусственном интеллекте (ИИ), заявив, что он подавит инновации и не сможет защитить общественность от «реальных» проблем, связанных с этой технологией. Сторонники законопроекта отмечают, что он создал бы одни из первых национальных правил регулирования крупномасштабных моделей ИИ и открыл бы путь для принятия национальных законов о безопасности ИИ.
30 сентября Ньюсом отклонил законопроект SB 1047, также известный как Закон о безопасной и надежной инновации для передовых моделей искусственного интеллекта, после того, как столкнулся сtronпротиводействием со стороны Кремниевой долины. Законопроект рекомендовал обязательное тестирование моделей ИИ на безопасность и другие меры защиты, которые, по мнению технологических гигантов, могли бы препятствовать инновациям.
Ньюсом утверждал, что законопроект слишком сильно сосредоточен на регулировании существующих ведущих корпораций, занимающихся искусственным интеллектом , и не защищает общественность от «реальных» опасностей, исходящих от новых технологий.
Он сказал:
Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что они используются в крупных системах. Я не считаю это лучшим подходом к защите населения от реальных угроз, исходящих от этой технологии.
– Гэвин Ньюсом
Сенатор критикует вето, называя его шагом назад в обеспечении общественной безопасности
Сенатор от Демократической партии Скотт Вайнер, автор законопроекта, назвал отказ неудачей для всех, кто верит в надзор за крупными корпорациями, принимающими критически важные решения, влияющие на безопасность, благополучие населения и будущее планеты.
Законопроект SB 1047 потребовал бы от разработчиков, включая таких крупных игроков, как OpenAI, Meta и Google, внедрить «аварийный выключатель» для своих моделей искусственного интеллекта и разработать планы по снижению экстремальных рисков. Кроме того, законопроект позволил бы генеральному прокурору штата подавать в суд на разработчиков ИИ в случаях, когда их модели представляют постоянную угрозу, например, захват сети искусственным интеллектом.
Этот законопроект был направлен конкретно на системы, разработка которых обходится более чем в 100 миллионов долларов и которые требуют значительных вычислительных мощностей. В настоящее время ни одна из существующих моделей искусственного интеллекта не достигла этого порога, но некоторые эксперты считают, что ситуация может измениться в течение следующего года.
Ньюсом выступает за научно обоснованное регулирование ИИ на фоне споров вокруг законопроекта о безопасности
Ньюсом заявил, что проконсультировался с ведущими экспертами по безопасности ИИ, чтобы помочь Калифорнии разработать эффективные правила, которые отдают приоритет научно обоснованному анализу потенциальных рисков, связанных с разработкой ИИ. Он подчеркнул, что его администрация продолжит добиваться надежных протоколов безопасности, настаивая на том, что регулирующие органы не должны ждать крупной катастрофы, чтобы начать действовать.
Несмотря на то, что Ньюсом наложил вето на законопроект SB 1047, он подчеркнул, что за последний месяц его администрация подписала более 18 законопроектов, касающихся регулирования ИИ.
До решения Ньюсома законопроект был непопулярен среди политиков, консультантов и крупных технологических компаний. Спикер Палаты представителей Нэнси Пелоси и такие компании, как OpenAI, заявляли, что он значительно затормозит развитие искусственного интеллекта.
Глава отдела политики в области ИИ в Abundance Institute, Нил Чилсон, предупредил, что, хотя законопроект в первую очередь направлен на модели стоимостью более 100 миллионов долларов, его сфера действия может быть легко расширена, чтобы ужесточить контроль и в отношении более мелких разработчиков.
Однако некоторые люди положительно относятся к этому законопроекту. Миллиардер Илон Маск, создающий собственную модель искусственного интеллекта под названием «Grok», — один из немногих технологических гигантов, поддерживающих эту меру и более широкие законы об ИИ. В сообщении от 26 августа на X Маск заявил что Калифорнии, вероятно, следует принять законопроект SB 1047 о безопасности ИИ, но признал, что поддержка законопроекта — это «трудное решение».
