기업들이 청구서 납부 기한이 다가옴에 따라 AI 사용 및 생산성에 대한 재고에 착수하고 있다

지난 한 해 동안 직원들에게 인공지능 도구를 최대한 적극적으로 활용하도록 독려했던 기업들이 이제 그 비용 관리에 어려움을 겪고 있다.  

최고재무책임자(CFO)들은 이제 끊임없이 증가하는 API 비용에 대한 측정 가능한 수익을 요구하고 있으며, 이는 OpenAI, Anthropic 및 기타 대형 언어 모델 제공업체의 성장 전망을 위협하고 있습니다.  

기업들이 갑자기 인공지능 투자액을 줄이는 이유는 무엇일까요? 

최고재무책임자(CFO)들이 급증하는 API 비용에 대한 정당성을 요구함에 따라 기업들이 AI 투자 규모를 줄이고 있습니다. 이러한 변화는 업계에서 "토큰 최대화(tokenmaxxing)"라고 불리는 현상의 종식을 알리는 신호이며, 조정이 빠르게 진행되고 있습니다.

최근 아마존은 직원들의 AI 사용량을 trac하는 내부 순위표를 폐지했습니다. 경영진은 해당 시스템이 유용한 결과물보다는 AI 기반의 단순 반복 작업에 더 많은 시간을 낭비하게 한다는 결론을 내렸습니다. 아마존의 한 수석 부사장은 직원들에게 "AI를 단지 사용하기 위해 사용하지 마십시오"라고 당부했습니다. 

우버는 2026년 AI 코딩 예산을 4개월 만에 모두 소진했고, 메타는 내부 메모를 AI 사용량이 "기하급수적으로 증가"하고 있다고 경고하며, 회사가 수십억 달러에 달하는 내부 AI 비용에 직면할 것이라고 밝혔습니다. 이후 우버는 직원 1인당 월 1,500달러의 AI 코딩 도구 사용 한도를 설정했습니다.

컨설팅 대기업 액센추어는 과거 직원들에게 AI 도구를 도입하지 않으면 "승진 기회를 놓칠 위험이 있다"고 경고한 바 있다. 이제 액센추어는 직원들이 사소한 업무에 AI를 사용하는 것을 막으려 하고 있다. 

유출된 내부 회의 녹음 파일에는 액센추어의 한 임원이 AI 관련 지출이 "매우 예측 불가능해지고 있다"고 말하는 내용이 담겨 있습니다. 이 임원은 또한 "CFO, COO, CIO를 비롯한 경영진들이 우리가 지출하는 금액에서 과연 가치를 얻고 있는지 여전히 의문을 품고 있다"고 덧붙였습니다

IBM의 아담 맥대니얼과 마르쿠스 아이젤은 최근 분석 토큰 최소화는 토큰 최대화만큼이나 나쁘다고 주장했는데, 그 이유는 둘 다 비즈니스 성과에 집중하기보다는 토큰 소비를 주요 목표로 삼기 때문이다. 

IBM은 토큰 소모량보다는 완료된 작업, 절약된 시간, 재작업 방지 정도를 측정하는 데 중점을 두는 "가치 극대화(valuemaxxing)"라는 개념을 지지합니다.

인공지능 투자 감소가 이미 기업에 영향을 미치고 있습니까?

OpenAI와 Anthropic은 기업들이 점점 더 많은 토큰을 소비할 것이라는 전제 하에 성장 계획을 세웠습니다. 

OpenAI는 올해 초 연간 매출 250억 달러를 돌파했으며, 자체 기업 가치를 1조 달러로 평가했습니다. 반면 Anthropic은 그보다 수십억 달러 낮은 기업 가치를 가지고 있습니다. 두 회사 모두 컴퓨팅, 연구 개발, 인력 채용에 cash 쏟아붓고 있지만, 기업의 도입을 통해 수익을 창출하기를 기대하고 있습니다. 

하지만 기업들은 이미 고가의 플래그십 모델을 복잡한 작업에 사용하고, 더 작고 저렴한 대안을 일상적인 작업에 활용하고 있습니다. 일부 기업은 토큰당 요금 없이 자체 인프라에서 실행되는 오픈 소스 모델로 워크로드를 이전하고 있습니다.

국제데이터기업(IDC)은 2028년까지 인공지능(AI) 기반 기업의 70%가 단일 공급업체에 의존하기보다는 여러 모델을 사용할 것으로 예측합니다. 이는 AI가 공급업체들이 단순히 역량 경쟁이 아닌 가격 경쟁을 벌이는 상품으로 변모할 것임을 의미합니다. 

돈 문제는 당분간 해결되지 않을 것입니다. 오픈AI의 CEO인 샘 알트만조차도 올해 AI 비용이 고객에게 "엄청난 문제"가 되었다고 인정했습니다.