에칭 북, 10억 달러 주문량 기록하며 AI 추론 분야에서 엔비디아를 겨냥해

설립 4년 차 칩 스타트업인 에칭드(Etched)는 AI 모델 학습 후 실행을 위한 하드웨어 주문을 10억 달러 이상 수주했다고 주장합니다. AI 모델 실행 과정을 추론이라고 하는데, 이는 AI를 비즈니스에 활용하는 기업들에게 가장 비용이 많이 드는 작업 중 하나입니다. 에칭드는 칩 기술이 엔비디아의 범용 GPU보다 더 빠르고 저렴하며 에너지 효율도 높은 추론 작업을 수행할 수 있다고 믿습니다.

엔비디아는 50억 달러의 기업 가치 평가와 함께 수주 내역을 공개했습니다. 테크크런치 보도 에 따르면, 엔비디아는 자사의 첫 번째 칩이 이미 대만 TSMC(반도체 제조 회사)에서 생산되고 있다고 밝혔습니다 . 만약 이 칩이 예상대로 작동한다면, 현재 엔비디아로 흘러가는 자금의 일부가 자사 제품으로 유입되어 최첨단 AI 모델 도입과 관련된 경제 구조에 변화를 가져올 수 있습니다.

"인공지능의 발전 과정에서 범용 GPU보다 뛰어난 성능을 발휘하는 특수 칩이 불가피해지는 시점에 도달했으며, 전 세계 기술 분야 의사 결정권자들은 이를 알고 있습니다."라고 Etched의 공동 창립자 겸 CEO인 Gavin Uberti는 2024년 TechCrunch와의 인터뷰에서 밝혔습니다.

모델이 방대한 데이터셋을 통해 학습하는 훈련 방식과 달리, 추론은 사용자가 프롬프트를 제출할 때마다 발생합니다. 현재 대규모 언어 모델은 가중치를 찾고 키-값(KV) 캐시를 업데이트하는 데 많은 시간을 소비하는데, 이는 컨텍스트 윈도우가 커질수록 메모리 용량과 대역폭의 중요성을 더욱 높입니다. 결과적으로, 더 무거운 워크로드를 처리할 수 있는 GPU보다는 추론 전용으로 설계된 칩에 대한 수요가 증가하고 있습니다.

2026년 7월 Michael J. Yuan과 Ju Long이 발표한 논문에 따르면, 주류 GPU는 높은 처리 능력과 상대적으로 낮은 메모리 용량의 조합으로 인해 "계산 집약적이지만 용량은 작은" 특징을 가진다고 합니다. 저자들에 따르면, 추론 과정에서 데이터 대기 중 일부 계산이 사용되지 않고 남는 경우가 종종 있는데, 이는 연산 효율성보다는 메모리 사용량 최적화에 특화된 하드웨어를 활용할 수 있는 가능성을 제시합니다.

Etched에서 판매하는 제품

Etched는 독립형 칩을 판매하는 대신, 맞춤형 실리콘, 네트워킹 장치 및 소프트웨어로 구성되어 함께 작동하는 시스템 집합체인 "프론티어 추론 클러스터"를 제공합니다. 이 회사는 엔비디아, 구글 TPU 팀, 브로드컴, SK 하이닉스 및 TSMC에서 영입한 400명 이상의 엔지니어를 고용하고 있다고 주장합니다.

이 회사는 예상되는 성능 향상을 두 가지 독자적인 기술 덕분이라고 밝혔습니다. 첫 번째는 저전압 추론(LVI) 기술로, 컴퓨팅 블록이 더 낮은 전압 레벨에서 작동하여 발열을 줄이면서 지속적인 작동이 가능하도록 설계되었습니다. 두 번째 기술은 클러스터 스케일 메모리(CSM)로, 저지연 스토리지 시스템에서 칩 공간을 확보하여 장기 컨텍스트 추론 및 KV 캐시 크기 증가 문제를 해결합니다.

하지만 이러한 기술들은 아직dent인 검증을 거친 것이 아니라 회사 측에서 주장하는 내용으로 간주됩니다. 에칭드는 올여름 후반에 첫 제품 랙을 출하하기 시작하면 벤치마크 결과와 기술 정보를 일부 공개할 예정이라고 밝혔습니다.

파산 직전에서 벗어나 주주 구성이 탄탄해진 기업으로 거듭나다

TechCrunch에 따르면 Etched는 현재까지 약 8억 달러의 투자를 유치했으며, 여기에는 지난해 12월 50억 달러의 기업 가치로 완료된 5억 달러 규모의 투자 유치가 포함됩니다. 이번 투자 라운드는 Stripes가 주도했으며, Jane Street, Hudson River Trading, Two Sigma, Ribbit Capital 및 VentureTech Alliance가 참여했습니다.

투자자 명단에는 저명한 AI 연구자인 안드레이 카르파티, 제프리 힌튼, 페이페이 리, 아서 멘쉬, 스콧 우뿐만 아니라 스탠리 드러켄밀러와 피터 틸도 포함되어 있습니다.

이번 투자 유치는 스타트업 Etched에게 있어 완전히 새로운 방향을 제시합니다. 2022년 하버드 중퇴생이자 피터 틸 펠로우십 수상자인 로버트 와첸과 개빈 우버티가 설립한 Etched는 2023년 대부분 기간 동안 투자trac에 어려움을 겪었습니다. 회사 설립자들은 2024년에 1억 2500만 달러 이상의 자금을 확보하기 전까지 거의 모든 투자 기관으로부터 거절당했다고 밝혔습니다.

업계가 주목하고 있는, 점점 더 치열해지는 경쟁

Etched는 이미 포화 상태인 시장에 진입하고 있습니다. Cerebras는 올해 가장 큰 주목을 받은 AI 칩 IPO 중 하나를 기록했고, Groq는 최근 6억 5천만 달러의 투자를 유치했으며, 아마존, 구글, 마이크로소프트는 자체 인프라를 위한 맞춤형 AI 칩을 개발하고 있습니다. OpenAI 또한 Broadcom을 고용하여 맞춤형 칩을 개발하고 있는데, 이는 추론 시장이 엔비디아 외에도 다른 업체들이 진출할 수 있는 수준에 도달했음을 보여줍니다.

제조 공정은 여전히 ​​난관에 봉착해 있습니다. Cryptopolitan 앞서 보도한 바와 같이, 첨단 패키징 기술, 특히 TSMC의 CoWoS( 고대역폭 메모리와 프로세서를 결합하는 방식)는 업계의 가장 큰 장애물 중 하나가 되었습니다.

AI 웨이퍼 수요는 2022년부터 2026년까지 거의 11배 증가할 것으로 예상됩니다. 한편, TSMC는 순수 파운드리 시장에서 약 72%의 점유율을 차지하고 있습니다. Etched는 TSMC의 N4P 공정을 사용하기 때문에 엔비디아, AMD 및 기타 AI 칩 제조업체들과 동일한 제조 자원을 놓고 경쟁하게 됩니다.

현재는 구현에 초점을 맞추고 있습니다. 보고에 따르면 이미 생산이 시작되었으며, 향후 몇 달 안에 첫 번째 추론 랙이 출하되어 약 10억 달러 규모의 판매 계약을 확보할 것으로 예상됩니다. 하드웨어가 회사가 약속한 개선된 기능을 얼마나 충족했는지는 고객에게 인도된 후에야dent 검증을 통해 확인할 수 있을 것입니다.

현재로서는 LVI와 CSM에 대한 회사의 주장은 확정된 결과가 아닌 약속으로 간주해야 합니다. 만약 결과가 사실로 밝혀진다면, 이 스타트업은 AI 추론 분야에서 엔비디아의 가장 강력한 경쟁자 중 하나가 될 가능성이 높습니다.