AMD, 로컬 AI 모델 배포를 위한 LM Studio 출시

고급 AI 기술에 대한 접근을 민주화하기 위해 AMD는 LM Studio를 출시했습니다. 이는 사용자가 대규모 언어 모델(LLMs)을 로컬로 다운로드하고 배포할 수 있게 해주는 다재다능한 도구입니다. 이 조치는 AI 서비스가 주로 강력한 Nvidia 하드웨어에 의존하고 인터넷 연결이 필요한 prevailing한 추세에 맞서기 위한 것입니다. AMD의 LM Studio는 복잡한 설정이나 광범위한 프로그래밍 지식의 제약 없이 AI 어시스턴트에 원활하게 접근할 수 있도록 사용자를赋能하는 것을 목표로 합니다.

간편한 배포와 다재다능함

LM Studio는 생산성 애호가부터 창의적인 사고자까지 다양한 사용자를 대상으로 AI 어시스턴스에 대한 접근을 단순화합니다. Linux, Windows, macOS를 포함한 다양한 하드웨어 구성과 운영 체제에 대한 상세한 지침을 제공하여, 사용자는 시스템에 LM Studio를 손쉽게 설정할 수 있습니다. 이 도구는 AMD Ryzen 프로세서에서 실행되도록 설계되었으며, 최적의 성능을 위해 네이티브 AVX2 명령어를 활용합니다.

AMD의 접근성への 헌신은 GPU 제품군에도 미치며, Radeon RX 7000 시리즈는 LM Studio의 ROCm 기술 미리보기 버전을 통해 지원됩니다. 이 오픈 소스 소프트웨어 스택은 AMD GPU에서 LLM 및 기타 AI 워크로드의 성능과 효율성을 향상시킵니다. 사용자는 CPU 연산력에만 의존하지 않고 AI 어시스턴트의 잠재력을 최대한 활용하기 위해 AMD의 하드웨어 역량을 활용할 수 있습니다.

원활한 통합 및 성능 향상

LM Studio는 사용자가 로컬 LLM을 손쉽게 발견, 다운로드 및 실행할 수 있는 원활한 통합 경험을 제공합니다. 이 도구는 Mistral 7b 및 LLAMA v2 7b와 같은 인기 모델을 추천하여 사용자가 최첨단 AI 기능에 접근할 수 있도록 보장합니다. 또한, LM Studio는 올바른 양자화 모델 선택, Ryzen AI 칩을 위한 성능 최적화, Radeon GPU 소유자를 위한 GPU 오프로드 기능에 대한 지침을 제공합니다.

AMD의 LM Studio는 Nvidia의 Chat with RTX 솔루션과의 격차를 좁히는 중요한 한 걸음을 의미합니다. Nvidia의 독점 애플리케이션은 GeForce RTX 30 또는 40 GPU에 독점적으로 제공되는 반면, LM Studio는 AMD 및 Nvidia GPU와 AVX2 명령어가 장착된 일반 PC 프로세서를 모두 지원하는 더 중립적인 접근 방식을 제공합니다. 이 접근 방식은 하드웨어 선호도나 제약에 관계없이 AI 기술에 대한 더 넓은 접근성을 보장합니다.

로컬 AI 솔루션으로 사용자赋能

LM Studio의 도입과 함께, AMD는 외부 서비스나 인터넷 연결에 대한 의존 없이 고급 언어 모델의 힘을 활용할 수 있는 로컬 AI 솔루션으로 사용자를赋能하는 것을 목표로 합니다. 사용자 친화적인 인터페이스와 다양한 하드웨어 구성에 대한 포괄적인 지원을 제공함으로써, AMD는 AI 환경을 혁신하여 최첨단 기술을 더 접근 가능하고 포용적으로 만들 준비가 되어 있습니다.