OpenAI limita il suo livello più veloce GPT-5.6 Sol dietro una anteprima limitata

OpenAI ha aperto giovedì un'anteprima limitata di Ultrafast. GPT-5.6 Sol è in esecuzione al livello di servizio API, fino a 750 token di output al secondo.

Il creatore di ChatGPT ha dichiarato che il livello elabora fino a 14 volte più velocemente dell'elaborazione standard. L'azienda lo sta testando con un numero limitato di clienti API mentre valuta la domanda e la capacità.

Il silicio di Cerebras fa il lavoro pesante

La velocità proviene da Cerebras (NASDAQ: CBRS), il produttore di chip che ha stipulato un accordo di calcolo con OpenAI a gennaio.

Cerebras ha dichiarato giovedì che il suo chip alimenta GPT-5.6 Sol. Il chip è di dimensioni wafer e ha 44 GB di SRAM sul die.

A gennaio, OpenAI ha accettato di acquistare fino a 750 megawatt di potenza di calcolo Cerebras in tre anni. La capacità dovrebbe arrivare a ratei fino al 2028. Sam Altman è elencato come investitore in Cerebras.

Ultrafast è 5 volte più veloce di Claude Opus 4.8 in modalità Fast e 11 volte più veloce di Claude Fable 5 nelle velocità di output, ha dichiarato Cerebras. Anthropic offre la propria modalità accelerata Claude Fast, ma non raggiunge i numeri OpenAI sta citando.

Cerebras ha annunciato che il suo GPT-5.6 Sol Ultrafast ha completato Humanity’s Last Exam, un test di 2.500 domande su chimica, economia e letteratura a livello di laurea, in poco più di 11 ore. L'accuratezza raggiunta era simile a quella di Claude Fable 5, che ha richiesto più di tre giorni di calcolo continuo per essere completato.

Cerebras afferma di aver ottenuto un aumento di velocità end-to-end di 5,6 volte senza cali di qualità su GDP-Val, un benchmark costruito attorno al lavoro di conoscenza retribuito come bozze legali e modelli finanziari. Un token è un pezzo di testo che un modello linguistico produce mentre scrive.

Ultrafast è progettato per compiti che non possono attendere

OpenAI sta implementando Ultrafast per lavori che non possono attendere un modello più lento.

Nel suo post, l'azienda ha indicato la risposta agli incidenti, l'analisi delle frodi e del mercato, il supporto clienti in tempo reale, l'e-commerce e la ricerca interattiva come primi candidati.

Durante i tempi di inattività, i suoi ingegneri utilizzano il livello per leggere i log, analizzare le tracce e aiutare a convalidare una correzione mentre il sistema è ancora in avaria, con gli umani che prendono ancora la decisione sul deployment.

“GPT-5.6 Sol su Ultrafast è la prova che velocità e intelligenza non sono più mutualmente esclusive”, ha dichiarato l'CEO di Cerebras Andrew Feldman nel comunicato stampa dell'azienda.

Sachin Katti, VP di OpenAI per la strategia di calcolo e GPT-Infra, ha dichiarato che l'azienda "sta iniziando con un piccolo gruppo di clienti per imparare dove quella velocità crea un valore significativo".

A luglio, sono emersi rapporti secondo cui GPT-5.6 Sol, la versione di codifica dell'IA, aveva cancellato file, alberi di codifica e almeno un database di produzione da solo, ha riportato Cryptopolitan.

L'CEO di OthersideAI Matt Shumer ha scritto su X che Sol "ha appena cancellato quasi TUTTI i file del mio Mac per errore", mentre lo sviluppatore Bruno Lemos ha detto che ha cancellato il suo database di produzione.

Due settimane prima del lancio di Sol, il proprio system card di OpenAI aveva segnalato il comportamento. Avvertiva che il modello può essere "troppo agenziale" e leggere le istruzioni in modo troppo permissivo.