OpenAI lancia il chip Jalapeño con una grande affermazione su Nvidia GB300
- Martedì OpenAI ha pubblicato i primi risultati dei benchmark per Jalapeño, il suo chip di inferenza costruito da Broadcom.
- L'azienda ha dichiarato che il chip offre fino a 1,9 volte più lavoro per watt e una latenza fino a 3,6 volte inferiore rispetto ai sistemi Nvidia GB200 e GB300 su tre modelli open.
- Il chip è destinato esclusivamente all'uso interno di OpenAI e verrà distribuito in piccoli volumi entro la fine del 2026.
OpenAI ha pubblicato i suoi primi risultati di benchmark per Jalapeño, il suo chip di inferenza interno costruito con Broadcom.
L'azienda afferma che il chip esegue più lavoro di IA per watt e restituisce le risposte più velocemente dei sistemi rack Nvidia GB200 e GB300 contro cui è stato misurato.
Come si comporta il nuovo chip di OpenAI?
OpenAI ha pubblicato i risultati del benchmark per il suo nuovo chip di IA interno, chiamato Jalapeño. Il chip è stato sottoposto a InferenceX, un benchmark pubblico di SemiAnalysis che misura l'intero lavoro di servizio di una richiesta di IA, ed è stato testato sui propri GPT-OSS 120B di OpenAI, R1 670B di DeepSeek e Kimi K2.5 1T di Moonshot AI.
OpenAI ha affermato che il suo nuovo chip ha eseguito da 1,5 a 1,9 volte più lavoro per ogni unità di elettricità rispetto agli altri sistemi contro cui è stato testato. Ha anche risposto alle richieste da 1,7 a 3,6 volte più velocemente.
Per i compiti più interattivi che richiedono molto back-and-forth, il divario è cresciuto tra 2,1 e 4,1 volte migliore.
Richard Ho, vice presidente dell'hardware di OpenAI, ha detto ai giornalisti che il chip gestisce più lavoro contemporaneamente e risponde anche più velocemente, cosa che la maggior parte dei chip non può fare allo stesso tempo.
I punti di confronto erano i superchip GB200 e GB300 di Nvidia, che erano i migliori risultati che InferenceX avesse mai registrato al momento. Sul modello più grande testato, Kimi K2.5, OpenAI ha affermato che Jalapeño ha raggiunto circa 1,5 volte le prestazioni di picco per watt e una latenza 3,4 volte inferiore.
Non c'è un mercato di noleggio, nessun tipo di istanza e nessun piano per vendere Jalapeno, e quando gli è stato chiesto se OpenAI avrebbe offerto il chip ad altri, Ho ha detto che l'azienda sta “lottando per avere abbastanza” potenza di calcolo per le proprie esigenze.
OpenAI ha il budget e lo spazio a terra, ma è attualmente limitato dall'alimentazione del data center piuttosto che dal budget o dallo spazio a terra, il che rende i token per megawatt la metrica che conta.
L'inferenza è continua su ChatGPT e l'API, quindi risparmiare watt su ogni token si complica rapidamente alla scala in cui opera OpenAI. Il chip è classificato a 700 watt, ma mantenuto a o sotto 550 watt sui carichi di lavoro testati.
Il chip si inserisce nell'accordo di ottobre 2025 di OpenAI con Broadcom per deployare 10 gigawatt di acceleratori progettati da OpenAI fino al 2029. Cryptopolitan riportato quando la partnership è stata inizialmente abbozzata.
OpenAI passerà all'uso esclusivo dei propri chip?
A Hot Chips, Ho ha detto che OpenAI deployerà il chip in rack da 128, con un pod completo che esegue 2.048 ASIC. Un deployment da 128 chip fornisce 1,7 exaflops di calcolo a 4-bit e 27,5 terabyte di HBM4, con ogni pacchetto che trasporta 15,4 terabyte al secondo di larghezza di banda di memoria.
OpenAI ha affermato di aver utilizzato i propri modelli per accelerare il lavoro su Jalapeno, passando dalla progettazione alla tape-out in soli nove mesi. Ho ha aggiunto che una versione di seconda generazione è “profondamente nello sviluppo” e una terza è in corso.
Tuttavia, anche con le affermazioni sui benchmark, OpenAI non sta sostituendo la sua flotta di GPU. Ho ha descritto Jalapeño come un pezzo di una strategia di calcolo che fa ancora affidamento su “partner molto, molto bravi” come Nvidia e Cerebras. Il chip verrebbe deployato in piccoli volumi entro la fine del 2026 prima di aumentare attraverso il 2027.
Notabilmente, tutti i numeri provenivano da OpenAI; SemiAnalysis ha verificato le esecuzioni di InferenceX di persona ma non ha eseguito l'intera suite né ha visto i risultati di AgentX.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Domande frequenti
Cos'è il chip Jalapeño di OpenAI?
Jalapeño è il primo chip personalizzato di OpenAI, un ASIC dedicato esclusivamente all'inferenza progettato in collaborazione con Broadcom e ottimizzato per eseguire modelli addestrati piuttosto che per l'addestramento.
Come si confronta Jalapeño con i chip di Nvidia?
Sul benchmark InferenceX, OpenAI ha affermato che Jalapeño ha fornito da 1,5 a 1,9 volte più lavoro AI per watt e una latenza da 1,7 a 3,6 volte inferiore rispetto ai sistemi Nvidia GB200 e GB300 su GPT-OSS 120B, DeepSeek R1 e Kimi K2.5.
Altre aziende possono acquistare o noleggiare Jalapeño?
No. OpenAI non vende il chip e non lo offre in noleggio; il vicepresidente Richard Ho ha dichiarato che l'azienda necessita di tutta la potenza di calcolo per sé stessa, quindi Jalapeño serve esclusivamente il traffico di OpenAI.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
