OpenAI atribuye el drenaje de créditos de Codex a un sistema antiabuso defectuoso y restablece los límites para todos los usuarios de pago

OpenAI descubrió que los desarrolladores de pago no podían acceder al agente de codificación de IA durante varios días porque una lógica de prevención de fraude defectuosa agotó el stock de créditos de Codex. El incidente resultó en tres restablecimientos totales de uso y planteó nuevas preocupaciones sobre la fiabilidad de las herramientas de IA, que tienen un uso limitado debido a sus demandas computacionales.

Thibault Sottiaux, miembro del equipo de ingeniería de Codex, documentó el incidente en varias publicaciones en X el 28 y 29 de junio. Esto motivó al equipo de Codex a trabajar durante el fin de semana en una “sala de guerra” para investigar los registros del sistema y determinar la causa del problema.

Se descubrió que el sistema de prevención de fraude y abuso sistémico era la causa de que los usuarios fueran limitados por velocidad de forma no intencionada, según confirmó la página de estado de OpenAI.

Qué salió mal 

Los desarrolladores comenzaron a experimentar una extraña disminución de créditos alrededor de mediados de junio. Para el 25 de junio, muchos desarrolladores acudieron a GitHub y a las redes sociales para informar de que el consumo de tokens era significativamente mayor de lo habitual para realizar estas mismas tareas. Las transmisiones en vivo de KuCoin News, que utilizaron datos del sitio de monitoreo Beating como fuente, estimaron que el uso de algunas cuentas era de 10 a 20 veces superior al normal.

Aquellos que se suscribieron al plan Pro de OpenAI (200 USD/mes) reportaron un agotamiento rápido de los 40 USD en créditos suplementarios (es decir, en cuestión de horas). También hubo múltiples informes de presupuestos asignados para 5 horas de codificación consumidos por solo unos pocos prompts. Incluso hubo un ingeniero de software en X que declaró que consumió una semana completa de uso en un solo día a través de dos sesiones.

Sottiaux confirmó, el 28 de junio, que este era un problema que le preocupaba y sentía que no había duda sobre el alcance del problema. “El equipo de Codex está en una sala de guerra un domingo revisando registros y verificando si hay algo que pueda llevar a un mayor drenaje de uso para algunos usuarios”, escribió. “Nos lo tomamos muy en serio y no descansaremos hasta llegar al fondo del asunto.”

El equipo de Codex restaura el uso con tres restablecimientos

OpenAI reveló gradualmente su plan para ayudar a sus usuarios tras los informes de que Codex se estaba utilizando a un ritmo acelerado. Sottiaux realizó un restablecimiento duro de todos los límites de uso de Codex para el 28 de junio, lo que también restableció los restablecimientos acumulados previamente de los usuarios (máximo de tres). También prometió dar restablecimientos manuales a cualquier usuario que aún estuviera afectado.

Al día siguiente (29 de junio), el equipo descubrió que múltiples vulnerabilidades en la infraestructura de limitación de velocidad de Codex causaron el uso inesperado de Codex. Hubo un tercer restablecimiento completo, y Sottiaux publicó que todos los usuarios recibirían un restablecimiento adicional acumulado que podría utilizarse dentro de las 24 horas.

Dijo que habían recibido varios informes de que Codex se estaba utilizando a un ritmo más rápido de lo originalmente previsto y afirmó que “no había un problema central único”. Las reparaciones preliminares se completaron en ese momento.

El desafortunado momento de este incidente fue destacado por Sottiaux, ya que el sistema de calendario de OpenAI tenía este mismo marco temporal como la “semana de restablecimiento” para una iniciativa no relacionada.

Los límites de computación tensionan los flujos de trabajo de codificación de IA

El problema de Codex llega en un momento en que hay una restricción notable del acceso a la computación por parte de las empresas de IA. En marzo, hubo dos problemas importantes respecto a las limitaciones de uso por parte de Anthropic con su producto Claude debido al uso de alto volumen.

Además, durante ese mismo mes, hubo una interrupción de Claude debido a un error que causó una caída, lo que hizo que muchos desarrolladores profesionales se dieran cuenta de lo dependientes que se habían vuelto del uso de un producto basado en IA para ayudarles con su codificación; muchos se quejaron públicamente de tener que codificar manualmente debido a la falta de acceso.

OpenAI también tuvo una interrupción separada de Codex en junio, donde solo tres días antes habían experimentado tres problemas de estabilidad que ocurrieron dentro de un período de 24 horas, lo que obligó a Sottiaux a cambiar los límites de uso en todos los planes de pago y dijo a los usuarios que “que los tokens fluyan de nuevo”.

A medida que el mercado evoluciona, ha habido una clara tensión estructural entre las empresas de IA, ya que están comenzando a eliminar la facturación ilimitada basada en tarifas, porque la demanda de computación de tipo inferencia está muy por encima de la capacidad.

OpenAI implementó un sistema de tipo restablecimiento acumulado el 12 de junio que permite a los usuarios de productos basados en Codex en los planes de suscripción Go, Plus, Pro y Business iniciar un restablecimiento manual de su cuota y utilizarlo a su discreción, lo cual reconoce que las ventanas de enfriamiento rígidas son frustrantes para los desarrolladores cuando están en medio de su trabajo. Sin embargo, como demostró el error de drenaje de créditos, esto también demuestra que la medición es un componente crítico de dicho sistema.

Los desarrolladores que intentan crear procesos de flujo de trabajo que incorporen asistentes de codificación basados en IA seguirán limitados por las múltiples interrupciones de uso para desarrollar planes futuros. Los desarrolladores que programan su tiempo basándose en las ventanas de uso establecidas (algo que ha sido reportado por Business Insider y se está convirtiendo cada vez más en la norma) seguirán teniendo una pérdida de productividad acumulada.

OpenAI continuará monitoreando la situación y proporcionará más actualizaciones una vez completado el proceso de investigación.