В калифорнийском технологическом секторе разгорелся скандал из-за предложенного законопроекта об искусственном интеллекте

Калифорнийские компании, работающие в сфере искусственного интеллекта, протестуют против нового законопроекта об искусственном интеллекте, который ужесточает контроль над сектором и потенциально подавляет инновации. Предлагаемый законопроект обязывает компании соблюдать строгие правила безопасности. Это включает в себя создание «аварийного выключателя» для отключения их мощных моделей искусственного интеллекта по мере обострения борьбы за контроль над сектором.  

 Читайте также: Борьба с угрозой обманчивого ИИ: исследователи предупреждают о срочном потеплении

Некоторые меры, предлагаемые в рамках законопроекта, могут негативно повлиять на технологические компании, такие как Meta, а также создадут ограничения для стартапов в области ИИ, таких как OpenAI, Anthropic и Cohere.

Сенат штата принял законопроект в прошлом месяце и теперь должен вынести его на голосование в Генеральной ассамблее в августе этого года.

Калифорнийский законопроект ставит под угрозу модели искусственного интеллекта с открытым исходным кодом

По данным arstechnica, крупные технологические компании должны гарантировать, что они никогда не будут создавать модели, которые наносят вред обществу, такие как ядерное оружие или средства кибератак.

Однако предложенный законопроект вызывает негативную реакцию со стороны некоторых заинтересованных сторон в секторе, утверждающих, что он негативно скажется на стартапах, которым, возможно, придётся покинуть штат. Кроме того, законопроект может помешать крупным компаниям, таким как Meta, открыть исходный код своих моделей.

«Если бы кто-то хотел придумать правила, подавляющие инновации, вряд ли можно было бы сделать лучше», — сказал Эндрю НГ, специалист по информатике, возглавлявший проекты ИИ в Google и китайской Baidu, а также входящий в совет директоров Amazon.

«Это создает огромную ответственность за риски, присущие научной фантастике, и, таким образом, вселяет страх в любого, кто осмеливается внедрять инновации».

Арун Рао, ведущий менеджер по продуктам в области генеративного ИИ в компании Meta, заявил, что «неработоспособный» законопроект «положит конец открытому исходному коду (в Калифорнии)».

По словам сенатора Винера, протесты ожидаемы.

Сенатор штата от Демократической партии Скотт Винер, представивший законопроект, проигнорировал критику. Несмотря на негативную реакцию из-за чрезмерной ограничительности законопроекта, законодатель дал понять, что протесты не являются чем-то новым и исходят от представителей технологического сектора.

«Это технологический сектор, он не любит никакого регулирования, поэтому меня совсем не удивляет, что возникнет сопротивление».

Сенатор Скотт Винер.

«По сути, я хочу, чтобы ИИ преуспевал, а инновации продолжались, но давайте постараемся опередить любые риски для безопасности», — сказал он.

Некоммерческая организация Центр безопасности искусственного интеллекта (CAIS) из Сан-Франциско, возглавляемая Дэном Хендриксом, выступила соавтором законопроекта в Калифорнии.

Читайте также: «Крёстный отец ИИ» хочет ввести универсальный базовый доход в связи с потерей рабочих мест в сфере ИИ.

Хендрикс поддержал законопроект, заявив, что он может помочь решить одну из проблем в этом секторе — экономию средств в то время, когда люди также хотят «какого-то элементарного надзора».

«На организации, занимающиеся разработкой ИИ, оказывается конкурентное давление, которое побуждает их экономить на безопасности».

Сектор искусственного интеллекта пережил стремительный рост, что также вызвало опасения по поводу безопасности этой технологии. В прошлом году технологический миллиардер Илон Маск назвал ИИ «угрозой человечеству».

Cryptopolitan репортаж Энаси Мапакаме