IBM firma un acuerdo de $240 millones con Together AI para un clúster de inferencia Nvidia

IBM se ha comprometido con un acuerdo plurianual por 240 millones de dólares con Together AI para construir un clúster de inferencia Nvidia dedicado en IBM Cloud, anunciaron las dos empresas el martes.

El nuevo acuerdo otorga al proveedor de IA de código abierto un bloque de capacidad de GPU de nivel empresarial a medida que se adentra más en grandes cuentas corporativas.

Sistemas HGX B300 llegarán a IBM Cloud a principios de 2027

Según el acuerdo firmado, IBM tiene previsto instalar un gran clúster de sistemas Nvidia HGX B300 dentro de IBM Cloud, con el hardware previsto para entrar en funcionamiento en el primer trimestre de 2027, según el comunicado de la sala de prensa de IBM.

Together AI utilizará esta capacidad para servir inferencias en modelos de código abierto. IBM ha afirmado que es el primer clúster dedicado de este tamaño construido para inferencia en IBM Cloud alrededor del B300, conectado con la red Ethernet Spectrum-X de Nvidia.

Nvidia declaró que la configuración puede generar 30 veces más "producción de fábrica de IA" que su generación anterior, aunque esta afirmación no está verificada independientemente.

400 billones de tokens mensuales de Together AI se ejecutarán en IBM

Together AI realizó una ronda de financiación Serie C de 800 millones de dólares en los últimos meses con una valoración de 8.300 millones de dólares. Esto estaba destinado a expandir lo que llama su Nube Nativa de IA.

La empresa de IA, fundada en 2022, alquila infraestructura en la nube a empresas que desean construir sobre pilas de IA abiertas y modulares en lugar de modelos cerrados. El comunicado de prensa de IBM también mencionó que la empresa ahora canaliza 400 billones de tokens al mes a través de su producto de inferencia y ayuda a impulsar a más de un millón de desarrolladores.

El clúster de IBM ofrece a la expansión planificada de Together AI una plataforma sobre la cual ejecutarse. El CEO Vipul Ved Prakash dijo que el acuerdo era una forma de llegar a más clientes sin obligarlos a pagar precios de modelos de frontera.

"Las empresas quieren el rendimiento de los mejores modelos de frontera sin la etiqueta de precio de los modelos cerrados, y eso solo funciona si la infraestructura subyacente es rápida y confiable a gran escala", dijo en el comunicado. También añadió que el clúster es "un gran paso en nuestro impulso para convertir la IA de código abierto en la elección obvia para las empresas".

IBM profundiza su asociación con Nvidia para atraer a startups de IA

Para IBM, el acuerdo con Together AI es otra entrada en una asociación que crece orgánicamente con Nvidia. Alan Peacock, gerente general de IBM Cloud, explicó que el despliegue estaba vinculado a la demanda corporativa de IA agéntica, diciendo que IBM y Nvidia están "proporcionando infraestructura de IA empresarial escalable y económica" para ayudar a Together AI a avanzar más rápido.

Dion Harris, director senior de infraestructura HPC e IA en Nvidia, describió las fábricas de IA como infraestructuras que se están volviendo tan básicas como la electricidad o las telecomunicaciones.

IBM declaró que las dos empresas también han estado trabajando juntas en análisis de datos nativos de GPU además de la extracción de datos no estructurados. Las empresas también se centran en la consultoría y en posicionar el clúster Together AI como una parte importante de un impulso más amplio para vender capacidad de IA tanto a grandes empresas como a startups.