IBM sigla un accordo da 240 milioni di dollari con Together AI per il cluster di inferenza di Nvidia

IBM ha siglato un accordo pluriennale da 240 milioni di dollari con Together AI per la creazione di un cluster di inferenza dedicato basato su Nvidia su IBM Cloud, come annunciato martedì dalle due società.

Il nuovo accordo garantisce al fornitore di intelligenza artificiale open-source un pacchetto di capacità GPU di livello enterprise, consentendogli di consolidare la propria presenza presso le grandi aziende.

I sistemi HGX B300 saranno disponibili su IBM Cloud all'inizio del 2027

Secondo l'accordo firmato, IBM installerà un grande cluster di sistemi Nvidia HGX B300 all'interno di IBM Cloud, con l'hardware che dovrebbe entrare in funzione nel primo trimestre del 2027, stando a quanto riportato nel comunicato stampa di IBM.

Together AI utilizzerà questa capacità per eseguire inferenze su modelli open-source. IBM ha affermato che si tratta del primo cluster dedicato di queste dimensioni, costruito per l'inferenza su IBM Cloud attorno al B300 e collegato tramite la rete Ethernet Spectrum-X di Nvidia.

Nvidia ha dichiarato che la configurazione può generare una "produzione di intelligenza artificiale" 30 volte superiore rispetto alla generazione precedente, sebbene tale affermazione non sia stata verificata indent.

I 400 trilioni di token mensili di Together AI verranno eseguiti su IBM

Together AI ha concluso un round di finanziamento di Serie C da 800 milioni di dollari nei mesi scorsi, raggiungendo una valutazione di 8,3 miliardi di dollari. L'obiettivo era espandere quella che l'azienda definisce la sua piattaforma AI Native Cloud.

L'azienda di intelligenza artificiale, fondata nel 2022, affitta infrastrutture cloud ad aziende che desiderano sviluppare soluzioni basate su stack di IA aperti e modulari anziché su modelli chiusi. Il comunicato stampa di IBM ha inoltre menzionato che l'azienda gestisce attualmente 400 trilioni di token al mese attraverso il suo prodotto di inferenza e supporta oltre un milione di sviluppatori.

Il cluster IBM offre a Together AI una piattaforma su cui basare la sua espansione. Il CEO Vipul Ved Prakash ha affermato che l'accordo rappresenta un modo per raggiungere un maggior numero di clienti senza costringerli a pagare prezzi esorbitanti.

"Le aziende desiderano le prestazioni dei migliori modelli di frontiera senza il costo elevato dei modelli proprietari, e questo è possibile solo se l'infrastruttura sottostante è veloce e affidabile su larga scala", ha affermato nel comunicato stampa. Ha inoltre aggiunto che il cluster rappresenta "un grande passo avanti nel nostro impegno per rendere l'IA open source la scelta ovvia per le aziende"

IBM rafforza la partnership con Nvidia per attrarre le startup nel settore dell'intelligenza artificiale

Per IBM, l'accordo con Together AI rappresenta un ulteriore passo avanti in una partnership in continua espansione con Nvidia. Alan Peacock, direttore generale di IBM Cloud, ha spiegato che l'implementazione è legata alla domanda aziendale di intelligenza artificiale agentiva, affermando che IBM e Nvidia stanno "fornendo un'infrastruttura di intelligenza artificiale scalabile, economica e di livello enterprise" per aiutare Together AI a progredire più rapidamente.

Dion Harris, direttore senior per le infrastrutture HPC e AI di Nvidia, ha descritto le fabbriche di intelligenza artificiale come infrastrutture che stanno diventando basilari quanto l'elettricità o le telecomunicazioni.

IBM ha dichiarato che le due società hanno collaborato anche sull'analisi dei dati nativa delle GPU, oltre chetracdi dati non strutturati. Le aziende si stanno inoltre concentrando sulla consulenza e sul posizionamento del cluster Together AI come parte integrante di una più ampia strategia volta a vendere capacità di intelligenza artificiale sia alle grandi imprese che alle startup.