엔비디아와 Llama 3.1은 기업들이 슈퍼컴퓨터를 구축하는 데 도움을 줍니다

다국적 기업이자 기술 회사인 엔비디아는 기업과 국가가 메타의 최신 LLM인 라마 3.1을 사용하여 맞춤형 특수 슈퍼컴퓨터를 구축할 수 있도록 지원하는 새로운 서비스를 출시했다고 발표했습니다. 

엔비디아는 기업과 국가를 대상으로 하는 두 가지 새로운 서비스를 출시했습니다. 이 기술 대기업은 엔비디아 AI 파운드리(Nvidia AI Foundry) 내의 서비스와 엔비디아 NIM 내의 추론 마이크로서비스를 공개했습니다. 두 서비스 모두 메타(Meta)의 최신 오픈 소스 LLM 라이브러리인 라마(Llama) 3.1을 활용하여 생성형 AI 슈퍼컴퓨터를 구축할 수 있습니다. 

엔비디아 AI 파운드리는 기업과 국가가 특정 산업 요구사항에 맞춘 슈퍼 LLM 모델을 구축할 수 있도록 지원합니다. 이는 Llama 3.1과 엔비디아의 소프트웨어, 하드웨어, 그리고 인재를 활용하여 가능합니다. 기업과 국가는 자체 데이터 또는 Llama 3.1과 엔비디아 네모tron 보상 모델에서 생성된 합성 데이터를 사용하여 이러한 슈퍼 모델을 학습시킬 수 있습니다.

관련 기사: 테슬라, 2025년부터 휴머노이드 로봇 도입 예정 (일론 머스크 발언)

오늘 출시된 Llama 3.1은 4050억 개의 파라미터를 가지고 있으며 ChatGPT 및 Gemini와 같은 클로즈드 소스 AI 모델과 경쟁할 수 있도록 설계되었습니다. Meta는 모델과 연동되는 추가 구성 요소를 제공하여 Llama를 지속적으로 개선하고 있습니다. Meta와 Nvidia는 Llama 3.1을 Nvidia 서비스에 통합하기 위해 협력하여 출시 당일부터 솔루션을 사용할 수 있도록 했습니다. Nvidia의 CEO인 젠슨 황은 다음과 같이 말했습니다.

"...NVIDIA AI Foundry는 Llama 3.1을 전면에 통합했으며, 기업들이 맞춤형 Llama 슈퍼모델을 구축하고 배포할 수 있도록 지원할 준비가 되어 있습니다."  

Llama 3.1의 생성형 AI 모델은 16,000개 이상의 Nvidia H100 Tensor Core GPU에서 학습되었습니다. 또한 Nvidia의 가속 컴퓨팅 및 소프트웨어에 최적화되어 있어 데이터 센터, 클라우드 및 GPU 기반 개인용 컴퓨터에 배포할 수 있습니다.

관련 기사: Meta, Llama 3 AI 모델의 최대 버전 공개

현재 전 세계 많은 기업들이 Llama용 NIM 마이크로서비스를 이용하고 있습니다. 액센츄어는 아람코, AT&T, 우버를 위해 맞춤형 Llama 슈퍼모델을 구축한 최초의 고객입니다. 이들 기업은 Llama 3.1을 사용하여 NIM 마이크로서비스를 가장 먼저 활용하게 될 것입니다. 맞춤형 모델 구축이 완료되면 기업은 엔비디아의 마이크로서비스, 운영 체제 플랫폼, 클라우드 플랫폼 중에서 모델 실행에 적합한 솔루션을 선택할 수 있습니다. 

지난주, Mistral AI는 Mistral NeMo . 이 모델은 엔비디아 NIM 추론 마이크로서비스로 제공됩니다. 새로운 GPU 하드웨어와 관련하여, 한 유출자는 이 하드웨어 기술 회사가 중국 시장 전용으로 차세대 RTX 5090D를 출시할 것이라고 주장했습니다. 이 새로운 GPU는 RTX 4090D의 후속 모델이 될 것입니다.