A IBM assina um acordo de US$ 240 milhões com a Together AI para um cluster de inferência da Nvidia

A IBM firmou um acordo plurianual de US$ 240 milhões com a Together AI para construir um cluster de inferência dedicado da Nvidia na IBM Cloud, anunciaram as duas empresas na terça-feira.

O novo acordo concede ao provedor de IA de código aberto um bloco de capacidade de GPU de nível empresarial, à medida que ele avança em sua atuação em grandes contas corporativas.

Os sistemas HGX B300 chegarão à IBM Cloud no início de 2027

De acordo com o acordo assinado, a IBM instalará um grande cluster de sistemas Nvidia HGX B300 na IBM Cloud, com a previsão de que o hardware entre em operação no primeiro trimestre de 2027, segundo comunicado.

A Together AI utilizará essa capacidade para realizar inferências em modelos de código aberto. A IBM afirma ser o primeiro cluster dedicado desse porte construído para inferência na IBM Cloud, baseado no B300 e conectado com a rede Ethernet Spectrum-X da Nvidia.

A Nvidia afirmou que a configuração pode gerar 30 vezes mais "produção de fábrica de IA" do que a geração anterior, embora essa afirmação não tenha sido verificada dedent.

Os 400 trilhões de tokens mensais da Together AI serão executados na IBM

A Together AI recebeu uma rodada de financiamento Série C de US$ 800 milhões nos últimos meses, atingindo uma avaliação de mercado de US$ 8,3 bilhões. O objetivo era expandir o que a empresa chama de Nuvem Nativa de IA.

A empresa de IA, fundada em 2022, aluga infraestrutura em nuvem para empresas que desejam construir em plataformas de IA abertas e modulares, em vez de modelos fechados. O comunicado de imprensa da IBM também mencionou que a empresa agora canaliza 400 trilhões de tokens por mês por meio de seu produto de inferência e ajuda a impulsionar mais de um milhão de desenvolvedores.

O cluster da IBM oferece à Together AI uma plataforma para executar sua expansão planejada. O CEO Vipul Ved Prakash afirmou que o acordo foi uma forma de alcançar mais clientes sem obrigá-los a pagar preços exorbitantes.

“As empresas querem o desempenho dos melhores modelos de ponta sem o preço dos modelos proprietários, e isso só funciona se a infraestrutura subjacente for rápida e confiável em grande escala”, disse ele no comunicado. Ele acrescentou ainda que o cluster é “um grande passo em nosso esforço para tornar a IA de código aberto a escolha óbvia para as empresas”

IBM reforça parceria com a Nvidia para atrair startups de IA

Para a IBM, o acordo com a Together AI representa mais um passo em uma parceria crescente e orgânica com a Nvidia. Alan Peacock, gerente geral da IBM Cloud, explicou que a implementação está ligada à demanda corporativa por IA ativa, afirmando que a IBM e a Nvidia estão "fornecendo infraestrutura de IA escalável, econômica e de nível empresarial" para ajudar a Together AI a avançar mais rapidamente.

Dion Harris, diretor sênior de infraestrutura de HPC e IA da Nvidia, descreveu as fábricas de IA como infraestrutura que está se tornando tão básica quanto eletricidade ou telecomunicações.

A IBM afirmou que as duas empresas também têm trabalhado juntas em análises de dados nativas de GPU, além datracde dados não estruturados. As empresas também estão focadas em consultoria e no posicionamento do cluster Together AI como parte importante de uma iniciativa maior para vender capacidade de IA tanto para grandes empresas quanto para startups.