Законопроект Калифорнии о регулировании искусственного интеллекта передан на рассмотрение губернатору

В законодательном собрании Калифорнии был принят законопроект, вызвавший бурные дебаты и регулирующий использование искусственного интеллекта (ИИ). Законопроект SB-1047, направленный на регулирование безопасности крупных моделей ИИ, был одобрен Законодательным собранием штата Калифорния 45 голосами «за» и 11 голосами «против». 

Законопроект, принятый Сенатом штата в мае 32 голосами против 1, как ожидается, пройдет еще одно процедурное голосование в Сенате, прежде чем будет направлен на подписание губернатору Гэвину Ньюсому. 

Эксперты в области искусственного интеллекта поддерживают законопроект, направленный на противодействие потенциальным угрозам со стороны ИИ

Законопроект SB-1047 требует, чтобы разработчики крупномасштабных систем искусственного интеллекта, обучение которых обходится более чем в 100 миллионов долларов, включили в них «аварийный выключатель», который отключает ИИ в случае возникновения негативных последствий для населения. Такой подход особенно актуален в случаях, когда система ИИ должна функционировать с минимальным участием человека, и могут возникать наихудшие сценарии. 

Сторонники принятия законопроекта утверждают, что, поскольку передовые технологии искусственного интеллекта становятся все более самодостаточными, этот законопроект необходим для решения связанных с ним рисков. Автор законопроекта и сенатор штата Скотт Вайнер отметил, что такие известные эксперты в области ИИ, как Джеффри Хинтон и Йошуа Бенджио, выражали обеспокоенность по поводу потенциальных угроз, которые может представлять ИИ.

В прошлом году Хинтон и Бенджио были среди подписавших заявление, в котором говорилось, что если искусственный интеллект не будет должным образом контролироваться, это может привести к вымиранию человечества. 

Критики выражают обеспокоенность по поводу влияния Билла на инновации

Однако законопроект SB-1047 вызвал много критики со стороны сторонников исследований в области ИИ и бизнеса. Некоторые утверждают, что этот законопроект больше озабочен рисками, которые могут возникнуть в будущем, чем сосредоточен на текущих, таких как дипфейки и фейковые новости. 

Фэй-Фэй Ли, директор Стэнфордского института человекоцентрированного искусственного интеллекта, резко выступила против законопроекта. По словам Ли, в своей недавней редакционной статье она отметила, что этот закон представляет угрозу для инноваций, поскольку разработчики несут значительную ответственность. Она также отметила, что это может препятствовать обмену моделями и весами ИИ в формате открытого исходного кода, которые необходимы для академической деятельности и сотрудничества.

Лидеры калифорнийского бизнеса подписали открытое письмо с просьбой к губернатору Ньюсому наложить вето на законопроект, который, по их словам, «фундаментально ошибочен». Поскольку законопроект SB-1047 близок к принятию, у губернатора Гэвина Ньюсома есть время до 30 сентября, чтобы утвердить его.

В мае этого года на симпозиуме в Калифорнийском университете в Беркли губернатор Ньюсом согласился с тем, что надлежащее регулирование — это тонкая грань. Он выразил опасения, что штат может оказаться в «очень шатком положении» из-за чрезмерного регулирования. Однако Ньюсом также признал необходимость регулирования в определенной степени, поскольку представители индустрии искусственного интеллекта подняли ряд вопросов.