OpenAI проводит чёткую границу в вопросах рисков ИИ, оспаывая подход Anthropic к безопасности

OpenAI считает, что преимущества ИИ перевешивают некоторые из его рисков, что немного расходится с правилами Anthropic, ставящими безопасность на первое место. Генеральный директор Сэм Альтман заявил репортерам: «Мы считаем, что мир должен принять некоторые негативные последствия ради преимуществ этой технологии и предоставления людям свободы действий». 

Руководитель также признал наличие существенной разницы между его компанией и Anthropic в вопросах регулирования ИИ. Он отметил, что не разделяет идею о том, что ИИ настолько опасен, что одна лаборатория должна иметь монополию и контроль над его использованием, хотя он понимает логику такой позиции. 

Он утверждал, что подход «хранителя ворот» совершенно неприемлем и противоречит предпочтению OpenAI более легкому регулированию ИИ.

Альтман ранее поддерживал замедление развития ИИ

В целом Альтман выступает против требования полностью безопасного Экосистема ИИ. Он утверждает, что некоторые случаи misuse и другие вредные последствия неизбежны, но они будут компенсированы более широкими преимуществами технологии. «Я думаю, что люди сделают невероятно много — на порядки больше — хорошего, чем плохого», — сказал он.

Однако ранее, как сообщал сообщал Cryptopolitan, генеральный директор Anthropic Дарио Амодей призывал компании в сфере ИИ замедлить разработку технологий, идею которого полностью поддержал Алтман. Тогда он заявил, «Я согласен с Дарио, что нам нужно регулировать темпы развития передовых технологий. Это была основная тема обсуждений, которые мы вели в OpenAI в последние недели. Идея привлечения независимых оценщиков с доступом, аналогичным правам сотрудников, отличная, и мы последуем этому примеру». 

В основном Anthropic предупреждала, что, несмотря на преимущества ИИ, он может выйти из-под контроля человека и проникнуть во внешние сети. Также отмечалось, что модели высшего уровня могут проявлять черты самосохранения, такие как попытка предотвратить отключение, сокрытие фактов или обманное поведение.

Как сообщается, в июле 2026 года некоторые модели OpenAI обошли системы контроля, предназначенные для изоляции от интернета, и получили доступ к частям исследовательской инфраструктуры OpenAI и системам Hugging Face. Модели якобы тайно общались друг с другом, эксплуатировали уязвимости безопасности в общей системе, выходили в интернет и получали доступ к внешним сетям. В то время компания OpenAI пообещала внедрить более надежные средства защиты своих моделей. 

Аналогичный инцидент произошел во время оценки кибербезопасности, проведенной Институтом безопасности ИИ Великобритании при отключенных фильтрах: модель Claude Mythos 5 от Anthropic создала фейковые профили на GitHub, нацелилась на разработчика, имеющего полномочия утверждать вредоносный код, и отправила письма с вредоносным ПО отдельным пользователям. Недавно Google также сообщил, что Gemini пыталась получить доступ к системам других компаний.

OpenAI и Anthropic расходятся во взглядах на безопасность ИИ

Это разногласие отражает растущий разрыв в отрасли искусственного интеллекта относительно того, насколько большой свободой компании должны обладать при разработке все более мощных систем. Если OpenAI выступает за широкую доступность ИИ, то Anthropic придерживается более осторожного подхода, призывая к усилению мер защиты и надзора.

Комментарии Олтмана свидетельствуют о том, что OpenAI считает: общество должно принять определенные риски, а не вводить ограничения, которые могут ограничить законное использование ИИ. Однако критики предупреждают, что некоторые риски могут стать необратимыми после широкого внедрения высокоинтеллектуальных систем.

Это разногласия оставляют политиков перед сложной задачей: противостоять угрозам со стороны ИИ, не вводя правила, которые могут замедлить инновации или ослабить конкуренцию.

Президент Трамп проигнорировал призывы к ужесточению регулирования ИИ

До сих пор президент США Дональд Трамп неоднократно отклонял требования о новом регулировании ИИ, утверждая, что это лишь помешает американским компаниям опередить Китай. Он твердо убежден, что нынешние правоохранительные органы полностью способны контролировать эту технологию. Кроме того, он приказал своей администрации называть ИИ «сверхразумом», стремясь улучшить его общественный имидж.

Тем не менее, во вторник президент Трамп представил новый государственный чат-бот, принял ведущих технологических руководителей в Белом доме и объявил о добровольном соглашении по решению растущих проблем безопасности.

Сторонники безопасности утверждают, что этот шаг демонстрирует желание Трампа доказать, что он прислушивается к страхам избирателей относительно ИИ, не замедляя при этом его развитие. Соглашение, которое он подписал с шестью крупными технологическими компаниями — включая Nvidia, SpaceX и OpenAI, — не предусматривает никаких реальных штрафов за нарушение правил, хотя Трамп назвал его «морально обязывающим». 

«Это была попытка создать впечатление, что правительство прислушивается к этим опасениям, не подрывая четко выраженную и последовательную позицию администрации: регулирование и управление по своей сути препятствуют инновациям», — заявила Кэт Даффи из аполитичного Совета по международным отношениям.

Тем не менее, соглашение, подписанное во вторник, включает меры безопасности, которых эксперты давно требовали, такие как обязательство компаний создавать надежные внутренние защиты от взломов и сотрудничать с независимыми внешними экспертами.