Бывшие исследователи OpenAI критикуют противодействие компании законопроекту об искусственном интеллекте в Калифорнии

Двое бывших исследователей OpenAI, Даниэль Кокотайло и Уильям Сондерс, выразили недовольство позицией компании по законопроекту SB 1047 о регулировании ИИ в Калифорнии. Ранее в этом году они покинули компанию, сославшись на проблемы безопасности, возникающие из-за высоких темпов развития ИИ. 

В письме изданию Politico они выразили несогласие с позицией OpenAI по этому законопроекту, заявив, что она неприменима к более ранним призывам компании к регулированию ИИ. Письмо поднимает более широкий вопрос об управлении и безопасности ИИ. По мнению Кокотайло и Сондерса, противодействие OpenAI законопроекту SB 1047 свидетельствует о безответственном отношении организации к созданию ИИ. 

«Сэм Альтман, наш бывший начальник, неоднократно призывал к регулированию ИИ, — написали Кокотайло и Сондерс. — Теперь, когда вопрос о реальном регулировании встает на повестку дня, он выступает против него». 

OpenAI отстаивает свою позицию и призывает к федеральному регулированию

Они подчеркнули, что миссия Aidos заключается в безопасной разработке искусственного общего интеллекта, но предпринимаемые компанией шаги противоречат этой миссии. Исследователи обратились к губернатору Калифорнии Гэвину Ньюсому с просьбой одобрить законопроект, чтобы можно было принять более строгие меры безопасности при разработке технологий искусственного интеллекта. 

В ответ на письмо бывших исследователей представитель OpenAI опубликовал заявление, опровергающее обвинения в искажении фактов. Представитель также отметил, что OpenAI поддерживает некоторые законопроекты о безопасности ИИ в Конгрессе и утверждает, что их следует регулировать на федеральном уровне, поскольку они представляют угрозу национальной безопасности и влияют на конкурентоспособность страны на мировой арене.

Компания OpenAI неоднократно заявляла о необходимости надлежащего регулирования ИИ, но настаивает на том, чтобы этот вопрос решался на федеральном уровне. По мнению компании, только федеральное законодательство может обеспечить более эффективный подход к правовому решению проблем, связанных с опасностями, исходящими от передовых технологий ИИ, и создать единый правовой режим по всей стране. 

Компания Anthropic занимает иную позицию по поводу законодательства Калифорнии в области искусственного интеллекта

С другой стороны, компания Anthropic, конкурент OpenAI, приветствовала законопроект SB 1047, но предложила некоторые изменения. Генеральный директор компании, Дарио Амодей, ранее работавший в OpenAI, был более сдержан в своем мнении по поводу законопроекта. Амодей написал письмо губернатору Ньюсому, в котором заявил, что, хотя у законопроекта есть свои преимущества, текущая версия с внесенными поправками является экономически эффективной и выгодной. 

Поддержка законопроекта компанией Anthropic свидетельствует об ином подходе к управлению ИИ. Одобрение компанией, наряду с предложенными поправками, отличается от федерального подхода, который поддерживала OpenAI. Судьба законопроекта SB 1047, скорее всего, повлияет на будущие дебаты на уровне штатов и федеральном уровне.