IBM, 엔비디아 추론 클러스터 도입을 위해 Together AI에 2억 4천만 달러 규모 계약 체결

IBM은 Together AI와 다년간 2억 4천만 달러 규모의 계약을 체결하고 IBM 클라우드에 엔비디아 추론 전용 클러스터를 구축하기로 했다고 양사가 화요일에 발표했습니다.

이번 계약을 통해 오픈소스 AI 제공업체는 대기업 고객 기반 확대를 위해 엔터프라이즈급 GPU 용량을 확보하게 되었습니다.

HGX B300 시스템이 2027년 초 IBM 클라우드에 출시될 예정입니다

체결된 계약에 따라 IBM은 IBM 클라우드 내부에 대규모 엔비디아 HGX B300 시스템 클러스터를 배치할 예정이며, 해당 하드웨어는 2027년 1분기에 가동될 것으로 예상된다고 IBM 보도자료는 밝혔 습니다.

Together AI는 이러한 역량을 활용하여 오픈 소스 모델에 대한 추론을 제공할 것입니다. IBM은 B300을 기반으로 구축된 이 규모의 전용 클러스터가 엔비디아의 Spectrum-X 이더넷 네트워크로 연결된 최초의 IBM 클라우드 기반 추론 전용 클러스터라고 주장했습니다.

엔비디아는 해당 구성이 이전 세대보다 30배 더 많은 "AI 공장 생산량"을 생성할 수 있다고 밝혔지만, 이 주장은dent으로 검증되지 않았습니다.

Together AI는 IBM 플랫폼에서 월 400조 개의 토큰을 운영할 예정입니다

Together AI는 최근 몇 달 동안 8억 달러 규모의 시리즈 C 투자를 유치했으며, 기업 가치는 83억 달러로 평가되었습니다. 이 투자는 자사의 AI 네이티브 클라우드 사업 확장에 사용될 예정입니다.

2022년에 설립된 이 AI 기업은 기업에 클라우드 인프라를 임대합니다 . IBM의 보도 자료에 따르면, 이 회사는 현재 추론 제품을 통해 매달 400조 개의 토큰을 유통하고 있으며, 백만 명이 넘는 개발자를 지원하고 있습니다.

IBM 클러스터는 Together AI의 계획된 확장을 위한 플랫폼을 제공합니다. CEO인 비풀 베드 프라카시는 이번 계약을 통해 고객에게 최첨단 모델의 가격을 부담시키지 않고도 더 많은 고객에게 서비스를 제공할 수 있게 되었다고 밝혔습니다.

그는 보도자료에서 "기업들은 폐쇄형 모델의 높은 가격 부담 없이 최첨단 모델의 성능을 원하며, 이를 위해서는 기반 인프라가 대규모로 빠르고 안정적으로 구축되어 있어야만 한다"고 밝혔습니다. 또한, 그는 이번 클러스터 구축이 "오픈소스 AI를 기업들에게 당연한 선택지로 만들기 위한 노력에 있어 중요한 진전"이라고 덧붙였습니다

IBM, AI 스타트업 유치를 위해 엔비디아와의 파트너십 강화

IBM 에게 있어 Together AI와의 계약은 엔비디아와의 파트너십이 자연스럽게 확대되어 가는 또 하나의 사례입니다. IBM 클라우드 총괄 책임자인 앨런 피콕은 이번 구축이 기업의 에이전트형 AI 수요와 관련이 있다고 설명하며, IBM과 엔비디아는 Together AI의 성장을 가속화하기 위해 "확장 가능하고 경제적이며 기업 수준의 AI 인프라"를 제공하고 있다고 밝혔습니다.

엔비디아의 HPC 및 AI 인프라 담당 수석 이사인 디온 해리스는 AI 팩토리를 전기나 통신처럼 기본적인 인프라로 자리 잡고 있다고 설명했습니다.

IBM은 양사가 비정형 데이터trac외에도 GPU 기반 데이터 분석 분야에서 협력해 왔다고 밝혔습니다. 또한 양사는 컨설팅에 집중하고 있으며, Together AI 클러스터를 대기업과 스타트업 모두에게 AI 역량을 판매하는 더 큰 전략의 중요한 부분으로 자리매김하고 있습니다.