Nvidia가 AI 토큰을 세계 최신 전략적 자원으로 변모시키는 방법

젠슨 황(Jensen Huang)은 직원들의 급여와 함께 연간 수만 달러에 달할 수 있는 AI 토큰 예산이라는 새로운 형태의 복지를 엔지니어들에게 제공하고자 합니다.

NVIDIA의 최고경영자(CEO)는 이 제안을 회사의 연례 GPU 기술 컨퍼런스(GTC)에서 발표했으며, 여기서 그는 AI 시스템이 작업을 수행하는 데 사용하는 기본 단위인 토큰을 실리콘밸리의 새로운 채용 도구로 묘사했습니다.

이 아이디어는 황이 그리는 현대 직장의 더 큰 그림에 부합합니다. 그의 관점에서, 근로자들은 곧 대규모 AI 에이전트 팀을 관리하게 될 것이며, 이러한 소프트웨어 프로그램은 복잡한 다단계 작업을 자체적으로 완료할 수 있습니다.

황은 현재 NVIDIA가 42,000명의 직원을 고용하고 있지만, 이 숫자는 곧 “수십만 명”에 달하는 “디지털 직원”들에 의해 가려질 것이라고 전망했습니다. 이러한 시나리오에서 데이터 센터는 황이 “AI 공장”이라고 부르는, 공장이 제품을 생산하는 방식과 동일한 방식으로 토큰을 생산하는 시설이 됩니다.

황 회장은 토큰이 기술 산업의 핵심 화폐가 되었다고 주장합니다.

“컴퓨팅 파워를 돈 인쇄기에 비유한다면, 토큰은 AI 시대의 진정한 화폐입니다.”라고 그는 말했습니다. 그는 컴퓨팅 파워가 이제 수익과 유사한 기능을 한다고 덧붙였으며, 컴퓨팅 파워가 없으면 토큰을 생성할 수 없고, 토큰이 없으면 성장이 정체된다고 말했습니다.

새로운 칩, 더 큰 수치

NVIDIA는 이러한 주장을 뒷받침하기 위해 새로운 Grace Blackwell 칩 아키텍처를 제시했습니다. 해당 기업에 따르면, 이 아키텍처는 Hopper 구성에서 약 700개에 비해 초당 5,000개의 토큰을 처리할 수 있으며, 구형 Hopper 플랫폼보다 처리량이 50배 더 빠릅니다.

황에 따르면 이 도약은 Hopper가 여전히 잘 작동하고 있을 때 계산된 도박이었습니다. 그는 Grace Blackwell을 사설 클라우드나 국제적으로든 기업이 자신 있게 확장할 수 있는 유일한 인프라라고 언급했습니다.

황에 따르면 효율성 증가는 중요합니다. 왜냐하면 기업이 기가와트 규모의 데이터 센터를 구축하면 전력 용량은 사실상 고정되기 때문입니다.

“귀하의 작업 부하는 추론(inference)이며, 토큰은 귀하의 상품(commodity)이고, 그 컴퓨팅 파워는 귀하의 수익(revenue)입니다.”라고 그는 말했습니다. “모든 기업이 토큰 효율성에 대해 고민하게 될 것입니다.”

NVIDIA는 이미 대규모 AI 모델을 학습하고 지속적으로 실행하기 위해 설계된 다음 플랫폼인 Vera Rubin을 개발 중입니다.

황은 향후 AI 서비스가 계층형 가격 책정으로 이동할 가능성이 있다고 제안했으며, 한쪽 끝에는 무료 진입형 접근 방식이 있고 다른 쪽 끝에는 토큰 100만 개당 최대 150달러의 프리미엄 tiers가 있을 것이라고 말했습니다.

다른 주요 기업들도 같은 방향으로 움직이고 있습니다. 알리바바는 최근 비즈니스의 일부를 재조직하여 CEO 우용밍(Eddie Wu Yongming)이 이끄는 알리바바 토큰 허브 비즈니스 그룹을 설립했습니다. 이 부서는 모든 알리바바의 AI 제품을 하나의 목표로 통합하는 것을 목적으로 합니다: 토큰을 구축하고, 전달하고, 사용하는 것.

일자리, 비용, 그리고 인재 부족

하지만 이러한 전환에는 복잡성이 따릅니다.

최근 설문 조사에 따르면 C-suite 임원들의 98%는 AI가 결국 인력을 줄일 것이라고 믿지만, 54%는 유능한 인재를 찾는 것이 여전히 가장 큰 과제라고 말합니다.

골드만 삭스는 AI가 미국의 모든 근무 시간 중 25%에 해당하는 업무를 자동화할 수 있다고 추정했습니다. 골드만 삭스의 수석 글로벌 경제학자 조지프 브릭스는 전환이 순탄하지 않을 것이라고 인정하면서도, 역사는 새로운 기술이 결국 이전에 존재하지 않았던 일자리를 창출한다고 밝혔습니다.

소규모 기업의 경우 비용이 이미 부담으로 작용하고 있습니다.

스타트업 창업자들은 AI가 완료하는 모든 작업에 토큰이라는 가격 태그가 붙어 있다고 말합니다. 몇몇 주요 AI 제공업체들은 최근 가격을 5%에서 30%까지 인상했습니다.

IT 기업 CI&T의 회장인 브루노 기카르디(Bruno Guicardi)는 엔지니어들이 이제 코드를 작성하는 대신 평범한 영어로 컴퓨터에 지시를 내리는 이러한 전환을 설명했습니다.

이러한 환경에서 AI를 언제, 어떻게 사용할지 알고 지출된 모든 토큰에서 실제 가치를 얻는 것이 올바른 판단과 낭비된 돈을 구분하는 요소입니다.