메타, 엔비디아 등 공급업체 의존도 줄일 자체 AI 학습 칩 테스트

메타가 자체 첫 AI 학습 칩을 테스트 중이며, 이 칩은 메타의 AI 시스템을 학습하고 엔비디아와 같은 제3자 공급업체에 대한 의존도를 줄이기 위해 설계된 것으로 알려졌다.

로이터 통신이 인용한 소식통에 따르면, 이 계획은 메타가 2026년까지 자체 개발 칩을 사용함으로써 막대한 인프라 비용을 절감할 것으로 예상된다.

메타는 이 프로젝트에서 TSMC와 협력하고 있다

회사는 이미 이전 세대 칩을 사용하여 랭킹 및 추천 알고리즘을 학습해 왔지만, 이는 메타 AI와 같은 생성형 도구를 학습하기 위해 사용하는 것이 처음이다.

Reuters는 Meta가 자체 칩 테스트를 위한 새로운 탭을 열었다고 보도했습니다. 이 소셜 미디어 거대 기업은 테스트가 잘 진행될 경우 대량 사용을 위해 생산을 늘릴 계획으로 칩의 소규모 배치를 시작했습니다.

보고서에 따르면 메타는 AI 전용 작업을 처리하기 위해 전용 AI 칩을 학습시키고 있다. 이 칩은 TSMC에서 제조한 것으로 알려졌으며, 반도체 제조 전 최종 공정의 성공적인 테이프아웃 이후 테스트 배포가 이루어졌다.

Meta는 칩 개발 작업의 중요한 이정표인 초기 설계를 칩 공장으로 보내는 'tape-out'의 첫 번째 테스트를 시작했습니다.

로이터 통신에 따르면, 일반적인 테이프아웃 비용은 수천만 달러에 달하며 완료하는 데 약 3개월에서 6개월이 소요되며 테스트 성공을 보장하지 않는다. 실패할 경우 회사는 문제를 진단하고 테이프아웃 단계를 반복해야 한다.

Meta는 Nvidia 하드웨어에 대한 의존성을 줄이기 위해 자체 칩 개발을 모색해 왔습니다. Meta는 Nvidia의 최대 고객 중 하나이며, Llama 파운데이션 모델 시리즈를 포함한 모델 학습을 위해 GPU 컬렉션을 축적해 왔습니다.

AI 분석가들은 더 많은 데이터와 컴퓨팅 파워를 추가하여 대규모 언어 모델(LLM)을 지속적으로 확장함으로써 달성할 수 있는 진전에 대해 우려와 의문을 제기해 왔으며, 딥시크(DeepSeek)가 동종 업계 대비 훨씬 낮은 비용으로 모델을 출시하면서 이러한 의문이 강화되었다.

2023년 개발 중이라는 첫 보도 이후, 7nm 공정을 기반으로 하며 정수(8비트) 정확도 연산에서 102 Tops, FP16 정확도 연산에서 51.2 테라플롭스를 제공하는 메타의 자체 칩인 '메타 학습 및 추론 가속기(MTIA)'가 개발되고 있다.

이 칩은 800메가헤르츠로 작동하며 면적은 약 370제곱밀리미터이다.

이 칩은 회사의 MTIA 시리즈 중 최신 제품이며, 이 프로그램은 수년간 부진한 시작을 겪었고 한때 개발 유사 단계의 칩을 폐기하기도 했다.

메타는 초기 목표를 놓쳤으며 칩 출시가 지연되었다

메타는 원래 2022년에 칩을 출시할 예정이었지만 내부 목표를 충족하지 못해 계획을 취소했으며, AI 학습용 CPU에서 GPU로의 전환으로 인해 데이터 센터를 재설계해야 했고 여러 프로젝트가 취소되었다.

그러나 메타는 지난해 추천 시스템에 MTIA 칩을 사용하기 시작했는데, 이는 페이스북과 인스타그램 뉴스 피드에 표시될 콘텐츠를 결정하는 과정에서 AI 시스템을 실행하는 추론(inference) 작업이다.

보고서에 따르면 메타는 2024년 2월 MTIA 칩의 두 번째 세대를 배포할 계획이었다.

Instagram과 WhatsApp을 소유한 이 회사는 2025년 총 비용을 1,140억 달러에서 1,190억 달러로 예측했으며, 여기에는 AI 인프라 지출에 주로 기인한 최대 650억 달러의 자본 지출이 포함됩니다.

메타 임원들은 2026년까지 자체 칩 사용을 시작하여 AI 시스템에 방대한 데이터를 공급하여 수행 방법을 가르치는 컴퓨팅 집약적인 학습 과정을 진행하기를 원한다고 reportedly 말했다.

추론 칩과 마찬가지로 학습 칩의 목표는 추천 시스템으로 시작하여 나중에 채팅봇 메타 AI와 같은 생성형 AI 제품에 사용하는 것이라고 임원들은 말했다.

지난주 Morgan Stanley의 기술, 미디어 및 텔레콤 컨퍼런스에서 Meta의 수석 제품 책임자 Chris Cox는 “우리는 추천 시스템의 훈련 방식을 어떻게 할지, 그리고 결국 생성형 AI의 훈련과 추론을 어떻게 생각할지 작업하고 있습니다.”라고 말했습니다.

메타의 칩 개발 노력에 대해 코크스는 지금까지를 “일단 걷고, 기어가고, 달리는 상황”이라고 묘사했다. 그러나 그는 첫 세대 추론 칩에 대한 권고가 “엄청난 성공”으로 간주된다고 말했다.