IBM, Nvidia 추론 클러스터를 위한 Together AI와 2억 4천만 달러 계약 체결

IBM과 Together AI는 화요일 IBM 클라우드에 전용 Nvidia 추론 클러스터를 구축하기 위한 다년간 2억 4천만 달러의 계약을 체결했다고 발표했다.

이 새로운 계약은 Together AI가 대형 기업 계정으로 더 깊이 진출함에 따라 엔터프라이즈 등급의 GPU 용량 블록을 오픈소스 AI 제공업체에 제공한다.

HGX B300 시스템, 2027초반 IBM 클라우드 출시

서명된 계약에 따르면, IBM은 IBM 클라우드 내에 대규모 Nvidia HGX B300 시스템 클러스터를 배치할 예정이며, 이 하드웨어는 2027년 1분기에 가동될 것으로 예상된다. 이는 IBM의 뉴스룸 발표에서 확인되었다.

Together AI는 이 용량을 오픈소스 모델에 대한 추론 서비스를 제공하기 위해 사용할 것이다. IBM은 이것이 B300을 기반으로 IBM 클라우드에 구축된 추론 전용 클러스터 중 첫 번째이며, Nvidia의 Spectrum-X 이더넷 네트워킹으로 연결되어 있다고 주장했다.

Nvidia는 이 구성이 이전 세대보다 “AI 팩토리 출력”을 30배 더 생성할 수 있다고 밝혔으나, 이 주장은 독립적으로 검증되지 않았다.

Together AI의 400조 개월간 토큰이 IBM에서 실행

Together AI는 최근 몇 달 동안 80억 달러의 기업 가치로 8억 달러의 시리즈 C 자금 조달을 완료했다. 이는 그들이 AI 네이티브 클라우드라고 부르는 것을 확장하기 위한 것이었다.

2022년에 설립된 이 AI 회사는 폐쇄형 모델 대신 개방형, 모듈형 AI 스택을 구축하고자 하는 기업에 클라우드 인프라를 임대한다. IBM의 보도자료에는 또한 회사가 월 400조 개의 토큰을 추론 제품에 통해 처리하고 100만 명 이상의 개발자를 지원하고 있다고 언급되었다.

IBM 클러스터는 Together AI의 계획된 확장을 실행할 플랫폼을 제공한다. 최고경영자 비풀 베드 프라카슈(Vipul Ved Prakash)는 이 계약이 고객에게 프론티어 모델 가격을 지불하도록 강요하지 않고 더 많은 고객에게 도달하는 방법이라고 말했다.

“기업은 폐쇄형 모델의 가격 태그 없이 최상위 프론티어 모델의 성능을 원하며, 이는 인프라가 규모에 따라 빠르고 신뢰할 수 있을 때만 가능합니다.”라고 그는 보도자료에서 말했다. 그는 또한 이 클러스터가 “오픈소스 AI를 기업의 명확한 선택지로 만들기 위한 우리의 노력에서 큰 한 걸음”이라고 덧붙였다.

IBM, AI 스타트업 유치 위해 Nvidia 파트너십 강화

IBM에게 있어 Together AI와의 거래는 Nvidia와의 유기적으로 증가하는 파트너십의 또 다른 진입점이다. IBM 클라우드의 총괄 관리자 앨런 피콕(Alan Peacock)은 이 배포가 에이전트 AI에 대한 기업 수요와 관련이 있다고 설명하며, IBM과 Nvidia는 Together AI가 더 빠르게 이동할 수 있도록 “확장 가능하고 경제적이며 엔터프라이즈 등급의 AI 인프라”를 제공하고 있다고 말했다.

Nvidia의 HPC 및 AI 인프라 수석 디렉터인 디온 해리스(Dion Harris)는 AI 팩토리를 전기나 통신망처럼 기본이 되는 인프라가 되고 있다고 설명했다.

IBM은 두 회사가 구조화되지 않은 데이터 추출 외에도 GPU 네이티브 데이터 분석을 함께 작업해 왔다고 밝혔다. 두 회사는 또한 컨설팅에 집중하고 Together AI 클러스터를 대형 기업과 스타트업 모두에게 AI 용량을 판매하기 위한 더 큰 노력의 중요한 부분으로 포지셔닝하는 데 주력하고 있다.