ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

AMD представляет LM Studio для развертывания локальных моделей ИИ

АвторБрайан КумБрайан Кум 2 мин. чтения
ИИ
  • С помощью LM Studio от AMD пользователи могут запускать модели ИИ на своих ПК без подключения к интернету.
  • Работает с процессорами AMD Ryzen и видеокартами Radeon для оптимизированной производительности.
  • AMD сокращает разрыв с Nvidia, делая технологии ИИ доступными для большего числа пользователей.

Чтобы демократизировать доступ к передовым технологиям ИИ, AMD представила LM Studio, универсальный инструмент, позволяющий пользователям загружать и развертывать большие языковые модели (LLM) локально. Этот шаг противоречит prevailing тенденции, при которой услуги ИИ в основном полагаются на мощное оборудование Nvidia и требуют подключения к интернету. LM Studio от AMD стремится дать пользователям беспрепятственный доступ к ИИ-ассистентам без ограничений, связанных со сложными настройками или глубокими знаниями программирования.

Простое развертывание и универсальность

LM Studio упрощает доступ к ИИ-ассистентам, удовлетворяя потребности широкого круга пользователей, от энтузиастов продуктивности до творческих мыслителей. Благодаря подробным инструкциям для различных конфигураций оборудования и операционных систем, включая Linux, Windows и macOS, пользователи могут легко настроить LM Studio на своих системах. Инструмент разработан для работы на процессорах AMD Ryzen, используя нативные инструкции AVX2 для оптимальной производительности.

Приверженность AMD доступности распространяется и на ее предложения GPU, серия Radeon RX 7000 поддерживается через технический предварительный просмотр LM Studio ROCm. Этот программный стек с открытым исходным кодом повышает производительность и эффективность для LLM и других рабочих нагрузок ИИ на GPU AMD. Пользователи могут использовать мощь оборудования AMD, чтобы раскрыть полный потенциал ИИ-ассистентов, не полагаясь исключительно на вычислительную мощность процессора.

Бесшовная интеграция и повышение производительности

LM Studio предлагает бесшовный опыт интеграции, позволяя пользователям легко обнаруживать, загружать и запускать локальные LLM. Инструмент рекомендует популярные модели, такие как Mistral 7b и LLAMA v2 7b, обеспечивая пользователям доступ к передовым возможностям ИИ. Кроме того, LM Studio предоставляет рекомендации по выбору правильной модели квантования, оптимизации производительности для чипов Ryzen AI и включению выгрузки на GPU для владельцев Radeon GPU.

LM Studio от AMD представляет собой значительный шаг к сокращению разрыва с решением Nvidia Chat with RTX. Хотя проприетарное приложение Nvidia эксклюзивно для видеокарт GeForce RTX 30 или 40, LM Studio предлагает более универсальный подход, поддерживая как GPU AMD, так и Nvidia, а также общие процессоры ПК, оснащенные инструкциями AVX2. Этот подход обеспечивает более широкий доступ к технологиям ИИ независимо от предпочтений или ограничений оборудования.

Наделение пользователей локальными ИИ-решениями

С введением LM Studio AMD стремится вооружить пользователей локальными ИИ-решениями, позволяя им использовать мощь передовых языковых моделей без зависимости от внешних сервисов или подключения к интернету. Предоставляя удобный интерфейс и всестороннюю поддержку различных конфигураций оборудования, AMD готова революционизировать ландшафт ИИ, сделав передовые технологии более доступными и инклюзивными.

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Поделиться статьёй

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несёт ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений

Брайан Кум

Брайан Кум

Брайан Кум имеет более семи лет опыта в освещении блокчейна и криптовалют, активно работая в отрасли с 2017 года. Он публиковался в ведущих изданиях, включая BlockToday.com. Кроме того, он разработал курс «Ethereum 101» для BitDegree.org до перехода в Cryptopolitan в качестве штатного автора. Брайан пишет вечные руководства (EG), глубокие аналитические материалы, интервью и обзоры цен. Его фокус на DeFi, инновациях в блокчейне и новых криптопроектах радует читателей.

ЕЩЁ … НОВОСТИ