Meta는 엔비디아 의존도 감소 경쟁이 가속화됨에 따라 자체 개발 AI 칩을 출시했습니다

메타는 엔비디아에 대한 의존도를 줄이기 위한 경쟁이 주요 기술 업계 전반에서 더욱 치열해짐에 따라 맞춤형 AI 칩 개발에 더욱 박차를 가하고 있습니다.

회사 측은 2023년에 메타 학습 및 추론 가속기(MTIA) 개발을 시작했으며, 향후 2년 동안 4세대에 걸친 새로운 칩 개발을 준비하고 있다고 밝혔습니다.

메타에 따르면, 이 칩들은 메타의 모든 제품에서 순위, 추천 및 인공지능(GenAI) 관련 작업을 위해 개발되고 있다고 합니다.

또한, 회사 측은 특정 공급업체나 하드웨어 하나에만 의존하지 않을 것이라고 밝혔습니다. 메타는 여러 업계 업체로부터 실리콘을 지속적으로 구매하는 동시에 MTIA를 자체 AI 인프라 계획의 중심에 둘 계획입니다.

회사 측은 AI 워크로드가 성장하고 변화함에 따라 "포트폴리오 접근 방식"을 취하고 있다고 밝혔습니다. 이는 전체 스택을 한 공급업체에 맡기는 대신 외부 칩과 자체 개발 칩을 혼합하여 사용한다는 의미입니다.

Meta는 더욱 빠른 일정으로 4세대 MTIA 칩을 출시합니다

메타는 이미 자사 앱 전반에 걸쳐 일반 콘텐츠와 광고 모두와 관련된 추론 작업에 수십만 개의 MTIA 칩을 사용하고 있다고 밝혔습니다.

이 칩들은 일반적인 용도가 아닌 회사 자체의 업무용으로 제작되었습니다. 이는 Meta 측에서 해당 하드웨어가 맞춤형 풀스택 솔루션의 일부이며, 이를 통해 매일 수행하는 작업에 더욱 최적화된 시스템을 구축할 수 있다고 밝혔기 때문에 중요한 점입니다.

회사 측은 이러한 구성이 특정 사용 사례에 대해 더 나은 컴퓨팅 효율성을 제공하고 범용 칩에 비해 비용을 절감한다고 밝혔습니다.

다음 단계는 대규모 배포입니다. 메타 는 MTIA 300, 400, 450, 500을 개발 중이며, 각 버전마다 컴퓨팅 성능, 메모리 대역폭 및 효율성이 향상될 것이라고 밝혔습니다. MTIA 300은 이미 상용화되어 순위 지정 및 추천 학습을 처리할 예정입니다.

MTIA 400, 450, 500은 모든 워크로드를 실행할 수 있지만, Meta는 이러한 칩이 단기적으로 그리고 2027년까지 주로 GenAI 추론 생산에 사용될 것이라고 밝혔습니다.

또한 이 회사는 해당 실리콘이 모듈형이므로 새로운 칩을 기존 랙 시스템 인프라에 쉽게 통합할 수 있다고 밝혔습니다. 이는 설계와 배포 사이의 대기 시간을 단축시켜 줍니다.

출시 속도에 대해 메타는 업계에서 일반적으로 1~2년마다 새로운 AI 칩을 출시하지만, 모듈형 설계를 재사용함으로써 이제 6개월 이내에 자체 칩을 출시할 수 있는 역량을 갖추게 되었다고 밝혔습니다.

Meta는 추론 및 개방형 표준을 중심으로 AI 칩 전략을 구축합니다

회사 측은 MTIA 전략이 빠른 반복, 추론 우선 설계, 공통 표준을 통한 손쉬운 도입이라는 세 가지 요소에 기반한다고 밝혔습니다.

첫 번째 사항에 대해 메타는 출시 주기가 짧아 AI 기술의 변화에 ​​더 빠르게 적응하고, 새로운 하드웨어 기술을 도입하며, 새로운 칩 버전 개발 및 배포 비용을 절감할 수 있다고 밝혔습니다

두 번째 요점에 대해 Meta는 자사의 계획과 일반적인 시장 모델의 차이점을 명확히 했습니다. 회사 측은 대부분의 주류 칩은 대규모 GenAI 사전 학습 작업을 위해 먼저 개발된 후 다른 작업에 사용되는데, 이 경우 종종 더 낮은 비용으로 처리된다고 밝혔습니다.

Meta는 정반대의 방식을 취하고 있다고 밝혔습니다. MTIA 450과 500은 먼저 GenAI 추론을 위해 튜닝된 후, 순위 지정, 추천 학습 및 추론, 그리고 필요에 따라 GenAI 학습에 사용될 예정입니다.

또한 회사 측은 MTIA가 PyTorch, vLLM, Triton 및 Open Compute Project를 포함한 표준 도구 및 시스템을 기반으로 처음부터 구축되었다고 밝혔습니다. 시스템 및 랙 설계 역시 데이터 센터에서 사용하기 위한 OCP 표준을 준수합니다.

메타는 또한 단일 칩으로는 모든 요구 사항을 충족할 수 없기 때문에 다양한 작업 부하에 맞춰 서로 다른 칩을 배포하고 "모두를 위한 개인 초지능"을 향해 나아갈 계획이라고 덧붙였습니다