엔비디아의 새로운 블랙웰 칩, AI 학습 시간 단축

엔비디아의 새로운 블랙웰 칩은 인공지능 시스템의 학습 속도를 어떻게 변화시키고 있는지 보여줍니다.

수요일 MLCommons가 발표한 최신 벤치마킹 결과에서, AI 칩의 능력을 추적하고 비교하는 비영리 단체 MLCommons는 엔비디아의 블랙웰 아키텍처가 기록을 세웠습니다.

메타의 오픈소스 Llama 3.1 405B 모델, 즉 가장 크고 복잡한 AI 모델 중 하나로 테스트했을 때, 학습은 단 27 분 만에 블랙웰 칩을 사용하여 완료되었습니다. 이는 엔비디아의 이전 호퍼 칩 대비 10분의 1 수준인 2,496개의 블랙웰 GPU만으로 달성된 결과입니다.

대조적으로, 이전 설계는 동등한 성능을 제공하기 위해 호퍼 GPU를 3배 이상 사용했습니다. 칩 기준 블랙웰은 속도가 두 배 이상 빨라져 수렴 효율성에서 큰 도약을 이루었습니다. 이러한 성능 향상은 트릴리언 파라미터 모델을 학습하는 조직들에게 상당한 시간과 비용 절감으로 이어질 수 있습니다.

이러한 결과는 극대규모 모델 학습을 위한 MLCommons 벤치마크 중 처음으로, 칩이 가장 요구가 높은 AI 워크로드를 얼마나 잘 처리하는지에 대한 실제 측정치를 제공합니다.

코어웨이브와 엔비디아, 지능형 AI 확장 주도

이 결과는 엔비디아에게 승리를 안겨준 것뿐만 아니라, 테스트에 협력한 클라우드 인프라 기업 코어웨이브의 노력도 부각시켰습니다. 코어웨이브의 치탄 카푸르 최고제품책임자는(CPO) 업계에서 점점 더 타당성을 얻는 일반적인 방향성을 지적했습니다. 그것은 수만 개의 GPU로 구성된 대규모이고 균질한 블록에서 벗어나는 방향입니다.

단일하고 방대한 모놀리식 컴퓨팅 시스템을 구축하는 대신, 기업들은 이제 거대한 모델 학습을 더 효율적으로 관리하고 더 나은 확장성을 제공할 수 있는 작고 상호 연결된 하위 집합들을 고려하고 있습니다.

카포르는 이러한 기술을 통해 개발자가 수조 개의 파라미터를 가진 극도로 큰 모델을 학습하는 데 필요한 시간을 계속 늘리거나 줄일 수 있다고 말했습니다.

AI 모델의 크기와 복잡성이 계속 증가함에 따라 하드웨어의 모듈식 배포로의 전환도 필수적입니다.

블랙웰은 Nvidia를 AI 모델 학습 분야에서 선두로 이끌고 있습니다

최근 초점은 ChatGPT1과 같은 모델이 사용자의 질문에 실시간으로 답변하는 AI 추론으로 이동했지만, 학습은 여전히 AI 개발의 핵심 동력입니다..

학습 과정은 이러한 모델에 지능을 부여하여 언어를 이해하고, 가장 도전적인 문제 중 일부를 해결하며, 심지어 인간과 유사한 문체를 생성할 수 있게 합니다. 이 계산은 매우 집약적이며, 일반적으로 며칠, 아니 몇 주 또는 몇 달 동안 수천 개의 고성능 칩이 작동해야 합니다.

이것이 변했습니다. Nvidia의 블랙웰 아키텍처입니다. 거대한 AI 모델을 학습하는 데 필요한 칩과 시간을 획기적으로 줄임으로써, 블랙웰 칩은 속도와 효율성이 지배하는 시장에서 Nvidia에 유리한 고지를 제공합니다. 

수조 개의 파라미터를 가진 Meta의 Llama 3.1 405B와 같은 모델을 학습하는 것은 이전에 거대한 GPU 클러스터에서 실행되어야 했으며, 에너지를 많이 소비하는 비싼 과정이었습니다. 

이러한 성능 향상은 의료, 금융, 교육, 자율주행차에 이르기까지 다양한 산업에서 점점 더 크고 강력한 AI 모델에 대한 치열한 수요가 있는 시기에 중요한 우위를 점합니다.

이는 Nvidia의 경쟁자들에게도 명확한 메시지를 보냅니다. 이제 AI 전용 칩을 개발 중인 AMD와 Intel과 같은 칩 회사들은 유사한 속도를 유지하기 위해 더 큰 압력을 받고 있습니다.

AMD는 MLCommons 벤치마크 테스트에 제출했지만 Llama 3.1 405B와 같은 대규모 모델에 대한 결과를 보여주지 않았습니다. Nvidia는 벤치마크의 상위 구간에서 테스트한 유일한 기업으로, 우월한 하드웨어임을 입증하고 가장 어려운 도전을 감당할 의사가 있음을 보였습니다.