알리바바의 새로운 방법은 AI 검색 비용을 거의 90% 절감

알리바바 그룹 홀딩스는 검색 중심 인공지능 모델의 학습 비용을 거의 90%까지 줄이는 방법을 찾았다고 밝혔습니다.

이후 논문 지난주 arXiv 서버에 게시된 논문에서 중국 기술 기업 연구자들은 'ZeroSearch'라는 학습 단축 방법을 설명했습니다. 이 방법은 대규모 언어 모델이 비용의 일부분으로 검색 기술을 향상시킬 수 있게 합니다.

알리바바는 이 접근 방식이 강화 학습에서 가장 비용이 많이 드는 단계 중 하나인 수만 개의 쿼리를 유료 API를 통해 라우팅하는 것을 제거한다고 주장합니다.

ZeroSearch는 이러한 병목 현상을 활용합니다. 광범위한 지식 기반을 이미 갖춘 참조 모델이 가상의 검색 엔진 역할을 하여 각 쿼리에 대해 유용한 문서와 의도적으로 노이즈가 있는 문서를 모두 생성합니다. 그런 다음 새로운 모델은 이러한 자체 제작된 노이즈가 있는 문서로 학습됩니다.

파인튜닝은 평이한 문구의 프롬프트와 깨끗한 답변으로 시작됩니다. 시간이 지남에 따라 '커리큘럼 롤아웃'을 통해 잡음, 오타, 모순을 추가하여 훈련 대상 모델이 열린 인터넷과 더 유사한 환경을 경험하도록 합니다.

논문에 따르면, 데이터 노이즈는 추론 능력을 강화하고 시스템이 지저분한 데이터 환경에서 생존하는 방법을 가르칩니다. “우리의 핵심 통찰은 대규모 사전 학습을 통해 LLM이 방대한 세계 지식을 습득했으며, 검색 쿼리가 주어지면 관련 문서를 생성할 수 있다는 것입니다.”라고 연구진은 설명합니다.

팀들은 매 쿼리마다 외부 제공업체에 비용을 지불할 필요가 없습니다. 이 변화는 자원이 제한된 소규모 팀들에게 특히 중요합니다. 예를 들어, API를 통해 Google에 64,000개의 쿼리를 보내는 데에는 약 US$586.70이 들 수 있습니다. 동일한 140억 파라미터 모델을 사용한 AI 모델 비용은 약 US$70.80로, 88%의 절감 효과를 가져옵니다.

알리바바의 ZeroSearch는 추가 하드웨어를 필요로 하지 않습니다

ZeroSearch는 추가적인 하드웨어 요구사항을 더하지 않는다고 팀은 주장합니다. 이는 표준 감독 미세 조정(supervised fine-tuning)에 의존하므로, 클라우드 컴퓨팅 필요량은 일반적인 개발 예산 범위 내에 머무릅니다.

이 논문은 이미 학술적 머신러닝 커뮤니티 내에서 주목을 받았습니다. 업계 관찰자들은 이 절감 효과가 다가오는 회계연도의 예산 주기 결정에 영향을 미칠 수 있다고 말합니다.

업계 경쟁사들은 새로운 생성형 AI 제품을 출시하면서 대규모 언어 모델 학습 비용을 줄이기 위해 치열한 경쟁을 벌여 왔습니다.

알리바바의 새로운 기능 중국 기업들은 Google과 OpenAI와 같은 미국 기업들과 경쟁하고 있으며, 이 두 기업은 모두 AI 에이전트에 막대한 투자를 해왔습니다. 알리바바는 비용을 거의 10배가량 절감했다고 발표하며, AI 검색 비용이 곧 변화할 것임을 시사했습니다.