OpenAI tracутечку средств из-за неисправной системы защиты от злоупотреблений и обнуляет лимиты для всех платных пользователей

Компания OpenAI обнаружила, что разработчики, оплачивающие услуги, не могли получить доступ к агенту ИИ в течение нескольких дней из-за ошибок в логике предотвращения мошенничества, которые истощили запасы кредитов Codex.dent привел к трем полным сбросам доступа и вызвал новые опасения по поводу надежности инструментов ИИ, которые имеют ограниченное применение из-за своих вычислительных требований.

Тибо Соттио, член инженерной команды Codex, задокументировал инцидентdent нескольких сообщениях на X 28 и 29 июня. Это побудило команду Codex работать все выходные в «оперативном центре» , чтобы изучить системные журналы и определить причину проблемы.

Как подтверждает страница состояния OpenAI , причиной непреднамеренного ограничения скорости запросов для пользователей стала система предотвращения злоупотреблений и мошенничества .

Что пошло не так? 

Примерно в середине июня разработчики начали сталкиваться со странным истощением кредитов. К 25 июня многие разработчики сообщили в GitHub и социальных сетях о значительном увеличении потребления токенов по сравнению с обычным уровнем при выполнении тех же задач. Прямые трансляции KuCoin News, которые использовали данные с сайта мониторинга Beating в качестве источника, показали, что использование некоторых учетных записей было в 10-20 раз выше обычного.

Те, кто подписался на тарифный план OpenAI Pro (200 долларов в месяц), сообщили о быстром исчерпании дополнительных кредитов на сумму 40 долларов (то есть, за считанные часы). Также поступали многочисленные сообщения о том, что бюджеты, выделенные на 5 часов программирования, были израсходованы всего на несколько запросов. Даже один из программистов на X заявил, что израсходовал недельный объем использования за один день в течение двух сессий.

28 июня Соттио подтвердил, что эта проблема его беспокоит, и выразил уверенность в ее масштабах. «Команда Codex в воскресенье работает в оперативном центре, просматривая журналы и проверяя, нет ли чего-либо, что могло бы привести к увеличению потребления ресурсов некоторыми пользователями», — написал он. «Мы относимся к этому очень серьезно и не успокоимся, пока не докопаемся до сути»

Команда Codex восстановила работоспособность после трех перезагрузок

Компания OpenAI постепенно раскрыла свой план помощи пользователям после сообщений об ускоренном использовании Codex. Соттио до 28 июня полностью обнулил все лимиты использования Codex, что также сбросило ранее накопленные пользователями лимиты (максимум три). Он также пообещал предоставить возможность ручного сброса лимитов всем пользователям, которых это все еще затронуло.

На следующий день (29 июня) команда обнаружила, что многочисленные уязвимости в инфраструктуре ограничения скорости Codex привели к неожиданному использованию Codex. Произошла третья полная перезагрузка, и Соттио сообщил, что все пользователи получат еще одну резервную перезагрузку, которую можно будет использовать в течение 24 часов.

Он сказал, что они получили несколько сообщений о том, что Кодекс используется быстрее, чем первоначально предполагалось, и заявил, что «одной центральной проблемы нет». Предварительные ремонтные работы были завершены к этому времени.

Неудачное совпадение по времени с этимdent было отмечено Соттио, поскольку в системе планирования OpenAI этот же период был указан как «неделя перезагрузки» для несвязанной с этим инициативы.

Вычислительные ограничения создают нагрузку на рабочие процессы программирования ИИ

Проблема с Codex возникла в то время, когда наблюдается заметное ограничение доступа к вычислительным ресурсам со стороны компаний, занимающихся искусственным интеллектом. В марте возникли две серьезные проблемы, связанные с ограничениями использования продукта Claude компанией Anthropic из-за большого объема работы с ним.

Кроме того, в том же месяце произошёл сбой в работе Claude из-за ошибки, которая привела к отключению системы, заставив многих профессиональных разработчиков осознать, насколько сильно они стали зависеть от использования продуктов на основе ИИ для помощи в программировании, поскольку многие публично жаловались на необходимость писать код вручную из-за отсутствия доступа.

В июне у OpenAI также произошёл отдельный сбой в работе Codex, тогда как всего за три дня до этого в течение 24 часов возникли три проблемы со стабильностью, которые вынудили Соттио изменить лимиты использования для всех платных тарифов и сообщили пользователям: «Пусть токены снова начнут поступать».

По мере развития рынка между компаниями, занимающимися искусственным интеллектом, возникает явное структурное противоречие: они начинают отказываться от неограниченной платы за услуги, поскольку спрос на вычислительные ресурсы для вывода результатов значительно превышает имеющиеся мощности.

12 июня OpenAI внедрила систему сброса лимита ресурсов, которая позволяет пользователям продуктов на основе Codex с подписками Go, Plus, Pro и Business инициировать один ручной сброс квоты и использовать его по своему усмотрению. Это, конечно, признает, что жесткие временные рамки для сброса квоты вызывают недовольство разработчиков в процессе работы. Однако, как показал случай с ошибкой истощения кредита, это также демонстрирует, что учет ресурсов является критически важным компонентом такой системы.

Разработчики, пытающиеся создавать рабочие процессы с использованием помощников по программированию на основе ИИ, по-прежнему будут ограничены многочисленными перерывами в работе, что помешает им разрабатывать планы на будущее. Разработчики, планирующие свое время на основе установленных временных окон (о чем сообщало издание Business Insider, и это все чаще становится нормой), будут продолжать нести дополнительные потери производительности.

Компания OpenAI продолжит следить за ситуацией и предоставит дальнейшие обновления после завершения расследования.