IBM assina acordo de $240 milhões com a Together AI para cluster de inferência Nvidia

A IBM comprometeu-se com um acordo plurianual de $240 milhões com a Together AI para construir um cluster dedicado de inferência Nvidia na IBM Cloud, anunciaram as duas empresas na terça-feira.

O novo acordo concede ao provedor de IA de código aberto um bloco de capacidade de GPU de nível empresarial, enquanto avança mais profundamente em grandes contas corporativas.

Sistemas HGX B300 chegarão à IBM Cloud no início de 2027

De acordo com o contrato assinado, a IBM planeja instalar um grande cluster de sistemas Nvidia HGX B300 dentro da IBM Cloud, com o hardware esperado para entrar em operação no primeiro trimestre de 2027, de acordo com o release da sala de imprensa da IBM.

A Together AI usará essa capacidade para servir inferência em modelos de código aberto. A IBM afirmou ser o primeiro cluster dedicado deste tamanho construído para inferência na IBM Cloud em torno do B300, conectado com a rede Ethernet Spectrum-X da Nvidia.

A Nvidia afirmou que a configuração pode gerar 30 vezes mais "saída de fábrica de IA" do que sua geração anterior, embora essa afirmação não tenha sido verificada independentemente.

400 trilhões de tokens mensais da Together AI serão executados na IBM

A Together AI realizou uma rodada de financiamento Série C de $800 milhões nos últimos meses, com uma avaliação de $8,3 bilhões. Isso visava expandir o que ela chama de sua Nuvem Nativa de IA.

A empresa de IA, fundada em 2022, aluga infraestrutura de nuvem para empresas que desejam construir sobre pilhas de IA abertas e modulares, em vez de modelos fechados. O comunicado de imprensa da IBM também mencionou que a empresa agora canaliza 400 trilhões de tokens por mês através de seu produto de inferência e ajuda a impulsionar mais de um milhão de desenvolvedores.

O cluster da IBM oferece à expansão planejada da Together AI uma plataforma para ser executada. O CEO Vipul Ved Prakash disse que o acordo era uma maneira de alcançar mais clientes sem forçá-los a pagar preços de modelos de fronteira.

"As empresas querem o desempenho dos melhores modelos de fronteira sem a etiqueta de preço de modelo fechado, e isso só funciona se a infraestrutura subjacente for rápida e confiável em escala", disse ele no comunicado. Ele também acrescentou que o cluster é "um grande passo em nosso esforço para tornar a IA de código aberto a escolha óbvia para as empresas".

IBM aprofunda parceria com Nvidia para atrair startups de IA

Para IBM, o acordo com a Together AI é mais uma entrada em uma parceria em crescimento orgânico com a Nvidia. Alan Peacock, gerente geral da IBM Cloud, explicou que o deployment estava ligado à demanda corporativa por IA agêntica, afirmando que a IBM e a Nvidia estão "entregando infraestrutura de IA escalável, econômica e de nível empresarial" para ajudar a Together AI a avançar mais rápido.

Dion Harris, diretor sênior de infraestrutura HPC e IA na Nvidia, descreveu as fábricas de IA como infraestrutura que está se tornando tão básica quanto eletricidade ou telecomunicações.

A IBM afirmou que as duas empresas também têm trabalhado juntas em análise de dados nativa de GPU, além da extração de dados não estruturados. As empresas também estão focadas em consultoria e no posicionamento do cluster Together AI como parte importante de um esforço maior para vender capacidade de IA tanto para grandes empresas quanto para startups.