OpenAI связывает истощение кредитов Codex с ошибкой в системе защиты от злоупотреблений и сбрасывает лимиты для всех платных пользователей

OpenAI выяснила, что платные разработчики несколько дней не могли получить доступ к ИИ-агенту для написания кода из-за того, что ошибочная логика предотвращения мошенничества привела к исчерпанию запаса кредитов Codex. Инцидент привел к трем полным сбросам лимитов использования и вызвал новые опасения относительно надежности ИИ-инструментов, использование которых ограничено из-за высоких вычислительных затрат.

Тибо Сотто, член инженерной команды Codex, задокументировал инцидент в нескольких постах в X 28 и 29 июня. Это побудило команду Codex работать через выходные в «комнате кризисного управления», чтобы изучить системные журналы и определить причину проблемы.

Система предотвращения системного злоупотребления и мошенничества была признана причиной непреднамеренного ограничения скорости для пользователей, что подтверждается страницей статуса OpenAI.

Что пошло не так 

Разработчики начали сталкиваться с необычным истощением кредитов где-то в середине июня. К 25 июня многие разработчики обратились к GitHub и социальным сетям, сообщая, что потребление токенов было значительно выше, чем обычно при выполнении тех же задач. Прямые трансляции от KuCoin News, использовавшие данные с сайта мониторинга Beating, оценили использование некоторых аккаунтов в 10–20 раз выше нормы.

Те, кто подписался на план Pro от OpenAI ($200/месяц), сообщили о быстром истощении дополнительных кредитов в размере $40 (т.е., за несколько часов). Также поступило несколько сообщений о том, что бюджеты, рассчитанные на 5 часов кодинга, расходовались всего несколькими запросами. Даже инженер-программист в X заявил, что он израсходовал недельную норму использования за один день в двух сессиях.

Соттьё подтвердил 28 июня, что эта проблема вызывала у него серьезную обеспокоенность и что масштаб проблемы не вызывает сомнений. «Команда Codex в воскресенье работает в режиме кризисного центра, анализируя логи и проверяя, нет ли причин для необоснованного расхода кредитов у некоторых пользователей, — написал он. — Мы относимся к этому крайне серьезно и не успокоимся, пока не разберемся во всем до конца».

Команда Codex восстанавливает лимиты через три сброса

OpenAI постепенно раскрывала свой план помощи пользователям после сообщений об ускоренном расходе кредитов Codex. К 28 июня Соттьё выполнил полный сброс всех лимитов использования Codex, что также обнулило ранее накопленные пользователями сбросы (максимум три). Он также пообещал выполнять ручные сбросы для любых пользователей, которые все еще сталкивались с проблемами.

На следующий день (29 июня) команда обнаружила, что несколько уязвимостей в инфраструктуре ограничения скорости Codex вызвали непредвиденное использование Codex. Произошел третий полный сброс, и Сотто опубликовал сообщение о том, что все пользователи получат один дополнительный сброшенный банк, который можно использовать в течение 24 часов.

Он заявил, что получил несколько сообщений об использовании Codex с частотой, превышающей первоначальные прогнозы, и отметил, что «не было одной центральной проблемы». На тот момент были завершены предварительные работы по устранению неполадок.

Неудачное время этого инцидента было подчеркнуто Сотто, так как система календаризации в OpenAI имела этот же временной промежуток как «неделю сброса» для инициативы, не связанной с этим инцидентом.

Лимиты вычислений создают напряжение в рабочих процессах ИИ-кодинга

Проблема с Codex возникает в период заметного ограничения доступа к вычислительным мощностям со стороны ИИ-компаний. В марте произошло два значительных инцидента, связанных с ограничениями использования со стороны Anthropic в продукте Claude из-за высокого объема использования.

Кроме того, в том же месяце произошел сбой Claude из-за ошибки, вызвавшей недоступность сервиса. Это заставило многих профессиональных разработчиков осознать, насколько сильно они зависят от ИИ-продуктов для помощи в написании кода: многие публично жаловались на необходимость писать код вручную из-за отсутствия доступа.

У OpenAI также был отдельный сбой Codex в июне, когда всего за три дня до этого они столкнулись с тремя проблемами стабильности в течение 24 часов, что вынудило Сотто изменить лимиты использования во всех платных планах и сообщить пользователям, что «пусть токены текут снова».

По мере развития рынка наблюдается явное структурное напряжение между ИИ-компаниями, которые начинают отказываться от безлимитного тарифного плана, поскольку спрос на вычисления для инференса значительно превышает доступные мощности.

12 июня OpenAI внедрила систему накопления и сброса лимитов, позволяющую пользователям продуктов на базе Codex с подписками Go, Plus, Pro и Business выполнять один ручной сброс квоты и использовать его по своему усмотрению. Это решение учитывает, что жесткие окна «остывания» вызывают раздражение у разработчиков в разгар работы. Однако, как продемонстрировал баг с истощением кредитов, такая система также показывает, что точный учет потребления является критически важным компонентом.

Разработчики, пытающиеся внедрить рабочие процессы с использованием ИИ-ассистентов для кодинга, будут продолжать сталкиваться с ограничениями из-за множественных сбоев в использовании, что затруднит планирование будущих задач. Разработчики, планирующие свое время с учетом установленных окон использования (что, по сообщениям Business Insider, становится все более распространенной практикой), будут продолжать терять продуктивность из-за накопленных простоев.

OpenAI продолжит следить за ситуацией и предоставит дополнительные обновления после завершения расследования.