- LLM 은 기업이 다양한 업무를 처리하는 데 필수적이지만, 전문가들은 SLM 의 전망이 밝다고 보고 있습니다.
- SLM 은 LLM 대비 에너지 효율성이 뛰어나고 기타 이점도 있어 이상적인 선택입니다.
- 하지만 대형 기술 기업들은 LLM 에 막대한 투자를 하고 있습니다.
기업들이 대규모 언어 모델(LLMs)에 막대한 자금을 투입하는 동안, AI 분야의 일부 업계 전문가들은 소규모 언어 모델(SLMs)이 다음 큰 물결이 될 것이라고 믿습니다.
이는 명절 시즌이 다가오면서 업계 활동이 계속 증가하고 있으며, 기술 기업들이 기술을 개발하기 위해 더 많은 자금을 투자하고 있다는 점과 맞물립니다.
미래는 소규모 언어 모델에 있습니다
멀티-billionaire 일론 머스크가 이끄는 xAI는 앤드리슨 호로위츠, 카타르 투자청, 시큐이아, 발러 에쿼티 파트너스로부터 추가 50억 달러를 모금했으며, 아마존은 오픈AI의 경쟁사인 앤트로픽에 추가 40억 달러를 투자했습니다.
이러한 대형 기술 기업들이 다양한 작업을 처리하기 위해 대규모 LLMs 개발에 수십억 달러를 투자하는 동안, AI의 현실은 만능 해결책이 없다는 것입니다. 기업에는 작업 특화 모델이 필요합니다.
AWS 최고 경영자 매트 가먼은 확장된 파트너십과 투자에 관한 발표에서, 앤트로픽의 생성형 AI를 개발하는 AWS 고객들로부터 압도적인 반응이 이미 있었다고 밝혔습니다.
대부분의 기업에게 LLMs는 여전히 특정 프로젝트의 1순위 선택이지만, 다른 기업들에게는 이 선택이 비용, 에너지 및 컴퓨팅 리소스 측면에서 비쌀 수 있습니다.
테라데이터의 회장兼 CEO인 스티븐 맥밀런은 일부 기업에 대해 대체 경로를 제안하기도 했으며, 다른 견해도 가지고 있습니다. 그는 미래가 소규모 언어 모델(SLMs)에 있다고 긍정적으로 보고 있습니다.
“우리는 미래를 바라보며, 소규모 및 중규모 언어 모델과 도메인 특화 LLMs와 같은 통제된 환경이 훨씬 더 나은 솔루션을 제공할 것이라고 생각합니다.”
~ 맥밀런
SLMs 특정 유형의 데이터에 대해 맞춤형 출력을 생성하는데, 이는 언어 모델이 이를 위해 특별히 훈련되었기 때문입니다. SLMs에서 생성된 데이터가 내부에 유지되므로, 언어 모델은 잠재적으로 민감한 데이터로 훈련됩니다.
LLMs이 에너지를 많이 소비하는 반면, 소규모 언어 버전은 프로젝트의 실제 필요에 맞게 컴퓨팅과 에너지 사용을 확장하도록 훈련됩니다. 이러한 조정을 통해 SLMs는 현재 대형 모델보다 낮은 비용으로 효율적입니다.
특정 지식에 AI를 사용하고 싶은 사용자를 위해, 광범위한 지식을 제공하지 않는 도메인 특화 LLMs 옵션이 있습니다. 이는 한 가지 정보 카테고리만 깊이 이해하고 해당 도메인에서 더 정확하게 응답하도록 훈련됩니다. 예를 들어, CMO와 CFO의 경우 해당 도메인에서 더 정확하게 응답합니다.
SLMs이 선호되는 이유
데이터 과학자 협회(ADaSci)에 따르면, 100만 사용자를 위한 70억 파라미터의 SLM을 완전히 개발하는 데 필요한 전기는 단 55.1MWh(메가와트시)에 불과합니다.
ADaSci는 1,750억 개의 파라미터를 가진 GPT-3를 훈련하는 데 약 1,287MWh의 전기가 소비되었으며, 이 전력은 일반 대중이 공식적으로 사용하기 시작할 때의 전력을 포함하지 않는다는 것을 발견했습니다. 따라서 SLM은 LLM을 훈련하는 데 소비되는 에너지의 약 5%만 사용합니다.
대형 모델은 일반적으로 개별 장치에서 사용할 수 있는 것보다 더 많은 컴퓨팅 파워를 사용하기 때문에 클라우드 컴퓨터에서 실행됩니다. 이로 인해 기업들은 정보가 클라우드 이동 시 통제력을 상실하고, 인터넷을 통과하며 느린 응답 속도를 겪는 complications에 직면합니다.
미래로 나아가면, 기업들의 AI 채택은 만능 해결책이 되지 않을 것입니다. 효율성과 작업을 완료하기 위한 가장 저렴하고 최상의 도구 선택에 초점이 맞춰질 것이며, 이는 각 프로젝트에 맞는 적절한 크기의 모델을 선택한다는 것을 의미합니다.
이는 일반 목적 LLM이든 작고 도메인 특화된 LLM이든 상관없이, 더 나은 결과를 제공하고, 더 적은 자원이 필요하며, 클라우드로의 데이터 마이그레이션 필요성을 줄이는 모델에 대해 수행됩니다.
다음 단계에서 AI는 대중이 AI 생성 답변에 대해 높은 신뢰를 가지고 있기 때문에 비즈니스 결정에 필수적일 것입니다.
“AI 모델 훈련을 생각할 때, 그들은 훌륭한 데이터의 기반 위에 구축되어야 합니다.”
~ 맥밀런
“우리가 추구하는 바는 신뢰할 수 있는 데이터 세트를 제공하고, 그 결과물을 신뢰할 수 있도록 클라이언트와 그들의 고객에게 분석 기능을 제공하는 것입니다,”라고 맥밀란은 덧붙였습니다.
효율성과 정확성이 세계적으로 높은 요구를 받는 가운데, 소형 및 도메인 특화 LLM은 기업과 일반 대중이 의존할 수 있는 결과를 제공하는 또 다른 옵션을 제시합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Enacy Mapakame
Enacy Mapakame 은 비즈니스 및 금융 뉴스 분야에서 10 년 이상의 경력을 가진 저널리스트입니다. 그녀는 자본 시장과 메타버스, AI, 암호화폐 등 신기술을 다루고 있습니다. Enacy 는 미디어와 사회 연구 학사 (우등) 학위를 보유하고 있습니다.
