Meta, Nvidia 의존도 감소 경쟁 가속화에 맞춰 자체 AI 칩 출시

Meta는 Nvidia에 대한 의존도를 줄이기 위한 경쟁이 대형 기술 기업들 사이에서 더 치열해짐에 따라 맞춤형 AI 칩에 더 적극적으로 나서고 있습니다.

회사는 2023년에 Meta Training and Inference Accelerator(MTIA)를 시작했으며, 이제 향후 2년 동안 4개의 새로운 칩 세대를 준비 중이라고 밝혔습니다.

Meta에 따르면, 이 칩들은 Meta의 제품 전반에 걸친 랭킹, 추천 및 GenAI 작업을 위해 제작된 것으로 알려져 있습니다.

회사는 또한 한 공급자나 하나의 하드웨어에 베팅하지 않는다고 밝혔습니다. Meta는 여러 산업 참여자로부터 실리콘을 계속 구매하면서 자체 AI 인프라 계획의 중심에 MTIA를 유지할 계획입니다.

회사의 말에 따르면, AI 워크로드가 증가하고 변화함에 따라 '포트폴리오 접근 방식'을 취하고 있습니다. 이는 전체 스택을 한 벤더에 맡기는 대신 외부 칩과 자체 실리콘을 혼합한다는 의미입니다.

Meta, 더 빠른 일정으로 4개 MTIA 칩 세대 출시

Meta는 앱 전반의 유기적 콘텐츠와 광고와 관련된 추론 작업에 수십만 개의 MTIA 칩을 이미 사용하고 있다고 밝혔습니다.

이 칩들은 일반 용도가 아닌 회사의 자체 작업을 위해 제작되었습니다. 이는 Meta가 하드웨어가 맞춤형 풀 스택 솔루션의 일부이며, 이는 매일 실행하는 작업에 대해 더 조정된 시스템을 제공하기 때문에 중요합니다.

회사는 이 설치가 특정 사용 사례에서 더 나은 컴퓨팅 효율성을 제공하며, 범용 칩과 비교해 비용을 절감한다고 밝혔다.

다음 단계는 더 큰 확장입니다. Meta는 MTIA 300, 400, 450 및 500을 구축 중이라고 밝혔으며, 각 버전은 컴퓨팅, 메모리 대역폭 및 효율성에서 개선을 가져옵니다. MTIA 300은 이미 생산 중이며 랭킹 및 추천 학습을 처리할 것입니다.

MTIA 400, 450, 500은 모든 워크로드를 실행할 수 있지만, 메타는 이러한 칩이 당분간 그리고 2027년까지 주로 GenAI 추론 생성에 사용될 것이라고 밝혔다.

회사는 또한 이 실리콘이 모듈식이라고 밝혔으며, 이를 통해 새로운 칩을 기존 랙 시스템 인프라에 삽입할 수 있다. 이는 설계와 배포 사이의 대기 시간을 단축한다.

출시 속도에 관해 메타는 업계가 일반적으로 새로운 AI 칩을 1~2년마다 출시하지만, 모듈식 설계를 재사용함으로써 이제 6개월 이하로 칩을 출시할 수 있는 능력을 갖추게 되었다고 밝혔다.

메타는 추론과 오픈 스탠다드를 중심으로 AI 칩 전략을 구축한다

회사는 MTIA 전략이 세 가지 부분에 기반한다고 밝혔다: 빠른 반복, 추론 우선 설계, 그리고 공통 표준을 통한 쉬운 채택.

첫 번째 점에 대해 Meta는 짧은 출시 주기가 AI 기술이 변경됨에 따라 더 빠르게 조정하고, 더 새로운 하드웨어 기술을 도입하며, 새로운 칩 버전의 개발 및 배포 비용을 줄이는 데 도움이 된다고 말했습니다.

두 번째 점에 관해 메타는 자신의 계획과 일반적인 시장 모델의 차이를 명확히 했다. 회사는 대부분의 주류 칩이 먼저 대규모 GenAI 사전 학습 작업용으로 구축된 후, 종종 더 높은 비용 수준으로 다른 작업에 사용된다고 밝혔다.

메타는 정반대의 접근을 취하고 있다고 밝혔다. MTIA 450과 500은 먼저 GenAI 추론용으로 튜닝된 후, 필요시 랭킹, 추천 학습 및 추론, GenAI 학습에 사용된다.

회사는 또한 MTIA가 PyTorch, vLLM, Triton, Open Compute Project를 포함한 표준 도구 및 시스템으로 처음부터 구축되었다고 밝혔다. 시스템 및 랙 설계는 데이터 센터에서 사용하기 위해 OCP 표준을 따르기도 한다.

메타는 단일 칩이 자신이 가진 모든 요구를 충족할 수 없다고 덧붙였으며, 따라서 다양한 워크로드에 대해 서로 다른 칩을 배포하면서 '모두를 위한 개인 초지능'을 향해 나아가기로 계획했다고 밝혔다.