NVIDIA의 새로운 칩은 코딩 도구가 AI 관련 검색의 절반을 차지함에 따라 비용을 35배 절감

- NVIDIA의 새로운 GB300 시스템은 이전 세대 대비 효율성은 50배 향상되고 비용은 35% 절감되어 인프라 경쟁 구도를 재편하고 있습니다.
- AI 코딩 어시스턴트가 전체 AI 쿼리의 약 50%를 차지하며, 전년 대비 11%에서 급증하여 하드웨어 수요를 폭발적으로 증가시키고 있습니다.
- AI 에이전트 시장은 2035년까지 449억 7천만 달러 규모에 도달할 전망이나, 비즈니스 리더 94%가 40%를 초과하는 심각한 인재 부족 문제에 직면해 있습니다.
NVIDIA는 최신 GB300 NVL72 시스템을 출시했습니다. 이 시스템은 이전의 Hopper 플랫폼 대비 전력 1메가와트당 50배 더 많은 작업을 처리할 수 있습니다. 즉, 처리되는 정보 단위당 비용이 35배 감소합니다.
Signal65는 GB200 NVL72에 대해 별도의 테스트를 수행했으며, 와트당 10배 이상의 정보를 처리하여 비용을 기존 대비 10분의 1로 줄였다고 밝혔습니다.
개선 작업은 계속되고 있습니다. NVIDIA의 TensorRT-LLM 라이브러리 업그레이드만으로도 GB200은 즉각적인 응답이 필요한 작업에서 단 4개월 만에 5배의 성능 향상을 보였습니다. Dynamo, Mooncake, SGLang 도구를 담당하는 팀들은 효율성을 더욱 높이고 있습니다.
이러한 AI 도구들은 지연 시간이 발생하거나 충분한 컨텍스트를 기억하지 못하면 작동하지 않습니다. 기업들은 시연용이 아닌 실제 비즈니스 상황에서 실제로 작동하는 도구를 필요로 합니다.
코드를 작성하고 디지털 비서로 작동하는 AI 도구는 이제 모든 AI 관련 검색의 거의 절반을 차지하며, 이는 1년 전 11%에서 크게 증가한 수치입니다.
이 수치는 OpenRouter의 State of Inference 보고서에서 나온 것으로, 이 분야에서 상황이 얼마나 빠르게 변화하고 있는지를 보여줍니다.
이러한 급증으로 기업들은 추세를 따라잡을 하드웨어 구축에 비상을 걸고 있습니다. 이러한 AI 어시스턴트는 즉각적으로 응답하고 전체 소프트웨어 프로젝트의 컨텍스트를 기억해야 하므로 컴퓨팅 파워에 심각한 부담을 줍니다.
시장 폭발이 기술 거대 기업들의 지배권 경쟁을 부추김
관련 금액은 막대합니다. AI 에이전트 시장은 2024년 49억 2천만 달러 규모였으며, 2025년에는 60억 1,600만 달러로 추정되고, 2035년에는 449억 7천만 달러로 불어날 것으로 예상됩니다. 이는 향후 10년간 매년 22.28%의 성장을 의미합니다. 은행, 병원, 상점, 공장이 초기 채택자입니다.
기업들은 비용 절감과 업무 효율화를 위해 고객 관리 시스템, 계획 도구, 보안 설정에 이러한 에이전트를 도입하고 있습니다. 선택적 기술이었던 것이 이제 기본 인프라가 되고 있습니다.
크립토폴리탄의 보도에 따르면, 알리바바는 처리 비용을 기존보다 60% 낮춘다고 주장하며 중국 시장을 겨냥한 Qwen3.5를 출시했습니다. 이 모델은 화면을 보고 스마트폰과 컴퓨터 간 작업을 수행할 수 있습니다. 이는 바이트댄스의 Doubao 앱과 정면으로 경쟁하며, 딥시크(DeepSeek) 업데이트도 곧 예정되어 있습니다.
오픈AI는 15일 피터 스타인베르거를 영입했습니다. 그는 오픈소스 AI 에이전트인 OpenClaw를 개발했습니다. 샘 알트만 CEO는 스타인베르거가 차세대 개인 에이전트 작업을 이끌 것이라고 말하며, 유용한 작업을 수행할 수 있는 스마트 어시스턴트에 대한 뛰어난 아이디어를 가진 천재라고 평가했습니다.
누구도 해결할 수 없는 인재 위기
비즈니스 리더의 94%가 AI 기술 인력이 부족하다고 답했습니다. 2028년까지 44%의 기업이 여전히 20~40%의 인력 부족이 있을 것으로 예상합니다. Workera 는 이러한 격차가 2026년에 제품 지연, 품질 문제, 매출 손실로 인해 글로벌 경제에 5.5조 달러의 비용을 초래할 수 있다고 말합니다.
현재 전 세계적으로 AI 인재에 대한 수요는 공급의 3.2배입니다. AI 직무는 일반 소프트웨어 포지션보다 67% 더 높은 급여를 제공합니다. 그러나 사무직 근로자의 85%가 자신의 시간으로 이 분야를 학습하고 있으며, 83%가 공식 교육보다는 주로 자기주도 학습을 하고 있다고 답했습니다.
기업이 전문 벤더로부터 AI 도구를 구매할 경우 성공률은 67%입니다. 내부 개발은 그보다 약 3분의 1 정도만 성공합니다.
Salesforce는 2025년 초 에이전트 사용량이 119% 증가했으며, 이러한 제품의 반복 수익이 5억 달러를 돌파했다고 밝혔습니다. 3개월 만에 6,000개의 기업 고객을 추가했습니다.
기업들은 자체 구축보다 솔루션 구매를 선호할 가능성이 높습니다. 이는 실제로 작동하는 솔루션을 제공할 수 있는 몇몇 주요 플레이어 중심으로 시장이 집중됨을 시사합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.

누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
















