Nvidia와 Llama 3.1이 기업용 슈퍼컴퓨터 구축을 지원

다국적 기업이자 기술 회사인 Nvidia는 Meta의 최신 LLM인 Llama 3.1을 사용하여 기업과 국가들이 맞춤형 및 전문화된 슈퍼컴퓨터를 구축할 수 있도록 하는 새로운 서비스 출시를 발표했습니다. 

Nvidia는 기업과 국가들을 대상으로 하는 두 가지 새로운 서비스를 출시했습니다. 기술 거인은 Nvidia AI Foundry 내의 서비스와 NVIDIA NIM 내의 추론 마이크로서비스를 출시했습니다. 두 서비스 모두 Meta의 최신 오픈 소스 LLM 라이브러리인 Llama 3.1을 활용하여 생성형 AI 슈퍼컴퓨터를 생성할 수 있습니다. 

Nvidia AI Foundry 는 Llama 3.1과 Nvidia의 소프트웨어, 하드웨어 및 인재를 사용하여 특정 산업 요구 사항과 필요에 맞게 맞춤화된 슈퍼 LLM 모델을 기업과 국가들이 생성할 수 있도록 지원합니다. 기업과 국가는 자체 데이터 또는 Llama 3.1과 Nvidia Nemotron 보상 모델에서 생성된 합성 데이터를 사용하여 이러한 슈퍼 모델을 훈련할 수 있는 옵션을 갖게 됩니다.

함께 읽기: 일론 머스크, 2025에서 휴머노이드 로봇 사용 시작

오늘 출시된 Llama 3.1은 4,050억 개의 파라미터를 가지고 있으며 ChatGPT와 Gemini와 같은 폐쇄형 AI 모델과 경쟁할 위치를 점하고 있습니다. Meta는 모델과 함께 작동하는 추가 구성 요소를 제공하여 Llama를 지속적으로 개선하고 있습니다. Meta와 Nvidia 는 Llama 3.1을 Nvidia의 서비스에 통합하여 솔루션을 출시 첫날부터 사용할 수 있도록 파트너십을 맺었습니다. Nvidia의 CEO인 젠슨 황은 다음과 같이 말했습니다.

“…NVIDIA AI Foundry는 Llama 3.1을 전반적으로 통합했으며 기업들이 맞춤형 Llama 슈퍼 모델을 구축하고 배포할 수 있도록 준비되어 있습니다.”  

Llama 3.1의 생성형 AI 모델은 16,000개 이상의 Nvidia H100 Tensor Core GPU에서 훈련되었습니다. 또한 데이터 센터, 클라우드 및 GPU 기반 개인 컴퓨터에서 배포할 수 있도록 Nvidia의 가속 컴퓨팅 및 소프트웨어에 최적화되어 있습니다.

함께 읽기: Meta, 가장 큰 규모의 Llama 3 AI 모델을 공개

현재 전 세계 많은 회사들이 Llama용 NIM 마이크로서비스에 접근할 수 있습니다. Accenture는 Aramco, AT&T, Uber를 위한 맞춤형 Llama 슈퍼 모델을 구축한 첫 번째 고객입니다. 이러한 기업들은 Llama 3.1을 사용하여 NIM 마이크로서비스에 접근할 첫 번째 대상이 됩니다. 성공적으로 맞춤형 모델을 생성한 후 기업은 모델을 실행하기 위해 Nvidia의 마이크로서비스, OPs 플랫폼 및 클라우드 플랫폼을 선택할 수 있습니다. 

지난주 Mistral AI는 Nvidia와 협력하여 새로운 12B 모델을 출시했습니다. Mistral NeMo 이 모델은 Nvidia NIM 추론 마이크로서비스로 제공됩니다. 새로운 GPU 하드웨어와 관련하여, 한 누설자는 하드웨어 기술 회사가 중국 시장 전용으로 새로운 Gen RTX 5090D를 출시할 것이라고 주장했습니다. 새로운 GPU는 RTX 4090D의 후속 모델이 될 예정입니다.