OpenAI trace la fuite de crédits de Codex à un système anti-abus défectueux, réinitialise les limites pour tous les utilisateurs payants

OpenAI a constaté que les développeurs payants ne pouvaient pas accéder à l'agent de codage IA pendant plusieurs jours parce qu'une logique de prévention de la fraude défectueuse avait épuisé le stock de crédits Codex. L'incident a entraîné trois réinitialisations d'utilisation au total et a soulevé de nouvelles préoccupations quant à la fiabilité des outils d'IA, qui ont une utilisation limitée en raison de leurs exigences de calcul.

Thibault Sottiaux, membre de l'équipe d'ingénierie de Codex, a documenté l'incident dans plusieurs posts sur X les 28 et 29 juin. Cela a incité l'équipe Codex à travailler tout le week-end dans une « salle de guerre » pour examiner les journaux système afin de déterminer la cause du problème.

Le système de prévention des abus systémiques et de la fraude s'est avéré être la cause de la limitation de débit involontaire des utilisateurs, comme confirmé par la page de statut d'OpenAI.

Ce qui s'est mal passé 

Les développeurs ont commencé à constater une étrange épuisement des crédits vers le milieu du juin. Le 25 juin, de nombreux développeurs se sont tournés vers GitHub et les réseaux sociaux pour signaler que la consommation de tokens était nettement supérieure à ce qui serait normalement observé pour effectuer ces mêmes tâches. Les diffusions en direct de KuCoin News, qui utilisaient les données du site de surveillance Beating comme source, ont estimé que l'utilisation de certains comptes était 10 à 20 fois supérieure à la normale.

Ceux qui se sont abonnés au plan Pro d'OpenAI (200 $/mois) ont signalé une épuisement rapide des crédits supplémentaires de 40 $ (c'est-à-dire en quelques heures). Il y a également eu plusieurs rapports de budgets prévus pour 5 heures de codage consommés par seulement quelques invites. Il y a même eu un ingénieur logiciel sur X qui a déclaré avoir consommé une semaine d'utilisation en une seule journée sur deux sessions.

Sottiaux a confirmé, le 28 juin, qu'il s'agissait d'un problème qui le préoccupait et qu'il n'y avait aucun doute sur l'ampleur du problème. « L'équipe Codex est dans une salle de guerre un dimanche à parcourir les journaux et à vérifier s'il y a quoi que ce soit qui pourrait entraîner une augmentation des drains d'utilisation pour certains utilisateurs », a-t-il écrit. « Nous le prenons très au sérieux et ne nous arrêterons pas tant que nous n'aurons pas trouvé la cause. »

L'équipe Codex restaure l'utilisation avec trois réinitialisations

OpenAI a révélé progressivement son plan pour aider ses utilisateurs suite aux rapports indiquant que Codex était utilisé à un rythme accéléré. Sottiaux a effectué une réinitialisation dure de toutes les limites d'utilisation de Codex d'ici le 28 juin, ce qui a également réinitialisé les réinitialisations précédemment mises de côté des utilisateurs (maximum de trois). Il a également promis d'accorder des réinitialisations manuelles à tout utilisateur encore affecté.

Le lendemain (29 juin), l'équipe a découvert que plusieurs vulnérabilités dans l'infrastructure de limitation de débit de Codex avaient provoqué une utilisation inattendue de Codex. Il y a eu un troisième réinitialisation complète, et Sottiaux a publié que tous les utilisateurs recevraient une réinitialisation supplémentaire mise de côté qui pourrait être utilisée dans les 24 heures.

Il a déclaré qu'ils avaient reçu plusieurs rapports indiquant que Codex était utilisé à un rythme plus rapide que prévu initialement et a déclaré qu'« il n'y avait pas un problème central ». Des réparations préliminaires ont été effectuées à ce moment-là.

Le timing malheureux de cet incident a été souligné par Sottiaux, car le système de calendrier d'OpenAI avait cette même période comme « semaine de réinitialisation » pour une initiative non liée.

Les limites de calcul tendent les workflows de codage IA

Le problème de Codex survient à un moment où l'on observe une restriction notable de l'accès au calcul par les entreprises d'IA. En mars, il y a eu deux problèmes importants concernant les limitations d'utilisation par Anthropic avec son produit Claude en raison d'une utilisation à haut volume.

Aussi, durant ce même mois, il y a eu une panne de Claude due à un bug qui a causé une panne, ce qui a fait réaliser à de nombreux développeurs professionnels à quel point ils étaient devenus dépendants de l'utilisation d'un produit basé sur l'IA pour les aider dans leur codage, car beaucoup se sont plaints publiquement de devoir coder manuellement en raison du manque d'accès.

OpenAI a également connu une panne séparée de Codex en juin où, trois jours plus tôt, ils avaient connu trois problèmes de stabilité survenus dans une période de 24 heures qui ont obligé Sottiaux à modifier les limites d'utilisation sur tous les plans payants, et a dit aux utilisateurs que « Que les tokens coulent à nouveau ».

À mesure que le marché évolue, il y a eu une tension structurelle claire entre les entreprises d'IA alors qu'elles commencent à éliminer les tarifs illimités basés sur les frais, car la demande pour le calcul de type inférence dépasse largement la capacité.

OpenAI a mis en œuvre un système de type réinitialisation mise de côté le 12 juin qui permet aux utilisateurs des produits basés sur Codex sur les plans d'abonnement Go, Plus, Pro et Business d'initier une réinitialisation manuelle de leur quota et de l'utiliser à leur discrétion, ce qui reconnaît que les fenêtres de refroidissement rigides sont frustrantes pour les développeurs lorsqu'ils sont au milieu de leur travail. Cependant, comme l'a démontré le bug de fuite de crédits, cela montre également que la mesure est un composant critique d'un tel système.

Les développeurs qui essaient de créer des processus de workflow intégrant des assistants de codage basés sur l'IA continueront d'être limités par les multiples interruptions d'utilisation pour développer des plans futurs. Les développeurs qui planifient leur temps en fonction des fenêtres d'utilisation établies (ce qui a été rapporté par Business Insider et devient de plus en plus la norme) continueront d'avoir une productivité perdue compoundée.

OpenAI continuera de surveiller la situation et fournira de nouvelles mises à jour une fois le processus d'enquête terminé.