A OpenAI rastreia a drenagem de créditos da Codex até um sistema anti-abuso defeituoso, redefine limites para todos os usuários pagos

A OpenAI descobriu que desenvolvedores pagos não podiam acessar o agente de codificação de IA por vários dias porque a lógica defeituosa de prevenção de fraude esgotou o estoque de créditos da Codex. O incidente resultou em três resets totais de uso e levantou novas preocupações sobre a confiabilidade das ferramentas de IA, que têm uso limitado devido às suas demandas computacionais.

Thibault Sottiaux, membro da equipe de engenharia da Codex, documentou o incidente em várias postagens no X em 28 e 29 de junho. Isso levou a equipe da Codex a trabalhar durante o fim de semana em uma “sala de guerra” para investigar os logs do sistema e determinar a causa do problema.

O sistema de prevenção de abuso e fraude sistêmico foi identificado como a causa da limitação de taxa não intencional dos usuários, conforme confirmado pela página de status da OpenAI.

O que deu errado 

Os desenvolvedores começaram a experimentar uma estranha depleção de créditos por volta do meio de junho. Em 25 de junho, muitos desenvolvedores recorreram ao GitHub e às redes sociais para relatar que o consumo de tokens era significativamente maior do que o normalmente observado para realizar essas mesmas tarefas. Transmissões ao vivo da KuCoin News, que usaram dados do site de monitoramento Beating como fonte, estimaram o uso de algumas contas em 10 a 20 vezes mais do que o normal.

Aqueles que se inscreveram no plano Pro da OpenAI ($200/mês) relataram uma rápida depleção dos créditos suplementares de $40 (ou seja, em questão de horas). Houve também vários relatos de orçamentos reservados para 5 horas de programação sendo consumidos por apenas alguns prompts. Houve até um engenheiro de software no X que afirmou ter consumido uma semana inteira de uso em um único dia, em duas sessões.

Sottiaux confirmou, em 28 de junho, que este era um problema que o preocupava e sentia que não havia dúvida sobre a escala do problema. “A equipe da Codex está em uma sala de guerra num domingo analisando logs e verificando se há algo que possa levar a aumentos no consumo de uso para alguns usuários”, escreveu ele. “Levando isso muito a sério e não descansaremos até chegarmos ao fundo disso.”

Equipe da Codex restaura o uso com três resets

A OpenAI revelou gradualmente seu plano para ajudar seus usuários após relatos de que a Codex estava sendo usada a uma taxa acelerada. Sottiaux fez um reset duro em todos os limites de uso da Codex até 28 de junho, o que também resetou os resets bancados anteriormente dos usuários (máximo de três). Ele também prometeu dar resets manuais a qualquer usuário que ainda estivesse impactado.

No dia seguinte (29 de junho), a equipe descobriu que múltiplas vulnerabilidades na infraestrutura de limitação de taxa da Codex causaram o uso inesperado da Codex. Houve um terceiro reset completo, e Sottiaux postou que todos os usuários receberiam um reset bancado adicional que poderia ser usado dentro de 24 horas.

Ele disse que receberam vários relatos de que a Codex estava sendo usada a uma taxa mais rápida do que o originalmente previsto e afirmou que “não havia um problema central único”. Reparos preliminares foram concluídos neste momento.

O timing infeliz deste incidente foi destacado por Sottiaux, já que o sistema de calendário da OpenAI tinha esse mesmo período como “semana de RESET” para uma iniciativa não relacionada.

Limites de computação tensionam fluxos de trabalho de codificação de IA

O problema da Codex ocorre em um momento em que há uma restrição notável no acesso à computação por empresas de IA. Em março, houve dois problemas significativos relacionados a limitações de uso pela Anthropic com seu produto Claude devido ao uso de alto volume.

Além disso, durante o mesmo mês, houve uma interrupção do Claude devido a um bug que causou uma falha, o que fez muitos desenvolvedores profissionais perceberem o quanto se tornaram dependentes do uso de um produto baseado em IA para auxiliar em sua codificação, já que muitos reclamaram publicamente de ter que codificar manualmente devido à falta de acesso.

A OpenAI também teve uma interrupção separada da Codex em junho, onde apenas três dias antes, haviam experimentado três problemas de estabilidade que ocorreram dentro de um período de 24 horas, o que forçou Sottiaux a alterar os limites de uso em todos os planos pagos, e disse aos usuários que “Que os tokens fluam novamente”.

À medida que o mercado evolui, houve uma tensão estrutural clara entre as empresas de IA, pois estão começando a eliminar a precificação baseada em taxas ilimitadas, já que a demanda por computação do tipo inferência está muito acima da capacidade.

A OpenAI implementou um sistema do tipo reset bancado em 12 de junho que permite que usuários de produtos baseados em Codex nos planos Go, Plus, Pro e Business iniciem um reset manual de sua cota e utilizem isso a seu critério, o que reconhece que as janelas rígidas de resfriamento são frustrantes para os desenvolvedores quando estão no meio de seu trabalho. No entanto, como foi demonstrado com o bug de drenagem de créditos, isso também demonstra que a medição é um componente crítico de tal sistema.

Desenvolvedores que estão tentando criar fluxos de trabalho que incorporam assistentes de codificação baseados em IA continuarão sendo limitados pelas múltiplas interrupções de uso para desenvolver planos futuros. Desenvolvedores que estão agendando seu tempo com base nas janelas de uso estabelecidas (algo que foi relatado pelo Business Insider e está se tornando cada vez mais a norma) continuarão tendo uma produtividade perdida composta.

A OpenAI continuará monitorando a situação e fornecerá mais atualizações após a conclusão do processo de investigação.