OpenAI tracla fuga di crediti di Codex a un sistema anti-abuso difettoso, ripristina i limiti per tutti gli utenti a pagamento

OpenAI ha scoperto che gli sviluppatori paganti non potevano accedere all'agente di programmazione AI per diversi giorni a causa di un malfunzionamento della logica antifrode che aveva esaurito i crediti disponibili nel Codex. L'dent ha comportato tre ripristini dell'utilizzo e ha sollevato nuove preoccupazioni sull'affidabilità degli strumenti di intelligenza artificiale, il cui utilizzo è limitato a causa delle elevate esigenze computazionali.

Thibault Sottiaux, membro del team di ingegneri di Codex, ha documentato l'incidentedent diversi post su X il 28 e il 29 giugno. Questo ha spinto il team di Codex a lavorare per tutto il fine settimana in una "sala di crisi" per analizzare i log di sistema e determinare la causa del problema.

È stato riscontrato che il sistema sistemico di prevenzione degli abusi e delle frodi è la causa della limitazione involontaria della frequenza di utilizzo da parte degli utenti, come confermato dalla pagina di stato di OpenAI.

Cosa è andato storto? 

Gli sviluppatori hanno iniziato a riscontrare un'anomala diminuzione del credito verso la metà di giugno. Entro il 25 giugno, molti sviluppatori si sono rivolti a GitHub e ai social media per segnalare che il consumo di token era significativamente superiore a quello normalmente registrato per lo svolgimento delle stesse attività. Le dirette streaming di KuCoin News, che utilizzavano i dati del sito di monitoraggio Beating, stimavano un utilizzo di alcuni account da 10 a 20 volte superiore alla norma.

Coloro che hanno sottoscritto il piano Pro di OpenAI (200 dollari al mese) hanno segnalato un rapido esaurimento dei crediti aggiuntivi da 40 dollari (ovvero, nel giro di poche ore). Sono state inoltre segnalate diverse situazioni in cui i budget stanziati per 5 ore di programmazione sono stati consumati da pochissime attività. Un ingegnere del software su X ha addirittura affermato di aver esaurito in un solo giorno, in due sessioni, l'equivalente di una settimana di utilizzo.

Il 28 giugno Sottiaux ha confermato che si trattava di una questione che lo preoccupava e che non aveva dubbi sulla portata del problema. "Il team di Codex è riunito in una sala operativa domenica, spulciando i log e verificando se ci sia qualcosa che possa portare a un aumento del consumo di risorse per alcuni utenti", ha scritto. "Prendiamo la questione molto seriamente e non ci fermeremo finché non l'avremo risolta."

Il team di Codex ripristina l'utilizzo con tre ripristini

OpenAI ha gradualmente rivelato il suo piano per aiutare i suoi utenti in seguito alle segnalazioni di un utilizzo accelerato di Codex. Il 28 giugno, Sottiaux ha effettuato un ripristino completo di tutti i limiti di utilizzo di Codex, azzerando anche i reset precedentemente accumulati dagli utenti (fino a un massimo di tre). Ha inoltre promesso di fornire reset manuali a tutti gli utenti che fossero ancora interessati dal problema.

Il giorno successivo (29 giugno), il team aveva scoperto che diverse vulnerabilità nell'infrastruttura di limitazione della velocità di Codex avevano causato l'utilizzo anomalo di Codex. C'è stato un terzo ripristino completo e Sottiaux ha annunciato che tutti gli utenti avrebbero ricevuto un ulteriore ripristino accumulato, utilizzabile entro 24 ore.

Ha affermato di aver ricevuto diverse segnalazioni secondo cui Codex veniva utilizzato a un ritmo più rapido di quanto inizialmente previsto e ha dichiarato che "non c'era un unico problema centrale". Le riparazioni preliminari sono state completate in quel momento.

La sfortunata tempistica di questo incidentedent stata sottolineata da Sottiaux, poiché il sistema di calendario di OpenAI utilizzava lo stesso periodo come "settimana di RESET" per un'iniziativa non correlata.

I limiti di calcolo mettono a dura prova i flussi di lavoro di programmazione dell'IA

La questione relativa al Codex si presenta in un momento in cui si nota una marcata restrizione dell'accesso alla potenza di calcolo da parte delle aziende che si occupano di intelligenza artificiale. A marzo, si sono verificati due problemi significativi riguardanti le limitazioni d'uso imposte da Anthropic al suo prodotto Claude a causa dell'elevato volume di utilizzo.

Inoltre, nello stesso mese, si è verificato un guasto a Claude a causa di un bug che ha causato un'interruzione del servizio, il che ha fatto capire a molti sviluppatori professionisti quanto fossero diventati dipendenti da un prodotto basato sull'intelligenza artificiale per la programmazione, tanto che molti si sono lamentati pubblicamente di dover programmare manualmente a causa della mancanza di accesso.

OpenAI ha anche subito un'interruzione separata di Codex a giugno, quando, solo tre giorni prima, si erano verificati tre problemi di stabilità nell'arco di 24 ore, costringendo Sottiaux a modificare i limiti di utilizzo per tutti i piani a pagamento e dicendo agli utenti "Che i token tornino a fluire".

Con l'evoluzione del mercato, si è manifestata una chiara tensione strutturale tra le aziende di intelligenza artificiale, che stanno iniziando ad abbandonare i modelli di prezzo basati su tariffe illimitate, poiché la domanda di potenza di calcolo per l'inferenza supera di gran lunga la capacità disponibile.

Il 12 giugno OpenAI ha implementato un sistema di reset manuale della quota che consente agli utenti dei prodotti basati su Codex con abbonamento Go, Plus, Pro e Business di effettuare un reset manuale e utilizzarlo a propria discrezione. Questo sistema riconosce che i rigidi periodi di attesa possono essere frustranti per gli sviluppatori durante il loro lavoro. Tuttavia, come dimostrato dal bug del consumo eccessivo di crediti, ciò evidenzia anche come la gestione dei consumi sia un elemento critico di un sistema di questo tipo.

Gli sviluppatori che cercano di creare flussi di lavoro che integrino assistenti di programmazione basati sull'intelligenza artificiale continueranno a essere limitati dalle numerose interruzioni di utilizzo, che impediscono loro di sviluppare progetti futuri. Gli sviluppatori che organizzano il proprio tempo in base alle finestre di utilizzo prestabilite (una pratica segnalata da Business Insider e che sta diventando sempre più la norma) continueranno a subire un'eccessiva perdita di produttività.

OpenAI continuerà a monitorare la situazione e fornirà ulteriori aggiornamenti al termine delle indagini.