IBM firma un accordo da 240 milioni di dollari con Together AI per un cluster di inferenza Nvidia

IBM si è impegnata in un accordo pluriennale da 240 milioni di dollari con Together AI per costruire un cluster di inferenza Nvidia dedicato su IBM Cloud, hanno annunciato le due aziende martedì.

Il nuovo accordo assegna al fornitore di IA open-source un blocco di capacità GPU di livello enterprise mentre spinge più a fondo nei grandi account aziendali.

I sistemi HGX B300 arriveranno su IBM Cloud all'inizio di 2027

Secondo l'accordo firmato, IBM prevede di installare un grande cluster di sistemi Nvidia HGX B300 all'interno di IBM Cloud, con l'hardware previsto per l'attivazione nel primo trimestre del 2027, secondo il comunicato stampa di IBM release.

Together AI utilizzerà questa capacità per servire l'inferenza sui modelli open-source. IBM ha affermato di essere il primo cluster dedicato di queste dimensioni costruito per l'inferenza su IBM Cloud intorno al B300, cablato con la rete Ethernet Nvidia Spectrum-X.

Nvidia ha dichiarato che la configurazione può generare 30 volte più "output della fabbrica di IA" rispetto alla generazione precedente, sebbene questa affermazione non sia verificata indipendentemente.

I 400 trilioni di token mensili di Together AI gireranno su IBM

Together AI ha raccolto 800 milioni di dollari nella serie C negli ultimi mesi con una valutazione di 8,3 miliardi di dollari. Questo era mirato ad espandere ciò che definisce la sua AI Native Cloud.

L'azienda di intelligenza artificiale, fondata nel 2022, affitta infrastrutture cloud alle aziende che desiderano costruire stack di IA aperti e modulari invece di modelli chiusi. Il comunicato stampa di IBM ha anche menzionato che l'azienda ora instrada 400 trilioni di token al mese attraverso il suo prodotto di inferenza e aiuta a supportare oltre un milione di sviluppatori.

Il cluster IBM offre a Together AI la piattaforma per la sua pianificata espansione. Il CEO Vipul Ved Prakash ha dichiarato che l'accordo era un modo per raggiungere più clienti senza costringerli a pagare i prezzi dei modelli di frontiera.

"Le aziende vogliono le prestazioni dei migliori modelli di frontiera senza il prezzo dei modelli chiusi, e questo funziona solo se l'infrastruttura sottostante è veloce e affidabile su larga scala", ha dichiarato nel comunicato. Ha anche aggiunto che il cluster è "un grande passo nella nostra spinta per rendere l'IA open-source la scelta ovvia per le imprese".

IBM approfondisce la partnership con Nvidia per corteggiare le startup di IA

Per IBM, l'accordo con Together AI è un'altra tappa in una partnership in crescita organica con Nvidia. Alan Peacock, general manager di IBM Cloud, ha spiegato che il deployment è stato legato alla domanda aziendale di IA agentic, affermando che IBM e Nvidia stanno "fornendo infrastrutture di IA scalabili, economiche e di livello enterprise" per aiutare Together AI ad accelerare.

Dion Harris, direttore senior per le infrastrutture HPC e AI presso Nvidia, ha descritto le fabbriche di IA come infrastrutture che stanno diventando fondamentali come l'elettricità o le telecomunicazioni.

IBM ha dichiarato che le due aziende hanno anche lavorato insieme sull'analisi dei dati nativa per GPU oltre che sull'estrazione di dati non strutturati. Le aziende si stanno concentrando anche sulla consulenza e sul posizionamento del cluster Together AI come parte importante di una spinta più ampia per vendere capacità di IA sia alle grandi imprese che alle startup.