Chainbase раскрывает исходный код ИИ-языковой модели, ориентированной на крипто
- Chainbase выпустила открытую AI-модель Theia-Llama-3.1-8B.
- Модель обучена на всеобъемлющем наборе данных, ориентированном на криптоиндустрию.
- Результаты бенчмарков показывают, что Theia превосходит популярные модели.
Chainbase выпустила модель ИИ с открытым исходным кодом Theia-Llama-3.1-8B. Это языковая модель, ориентированная на крипто.
Компания запустила альфа-версию чат-бота под названием TheiaChat в августе. Она была выпущена в то время, чтобы раскрыть функции Theia.
Обучение Theia проводилось на основе двух источников
Данные, использованные для обучения модели, были взяты из CoinMarketCap и других исследовательских отчетов. Данные CoinMarketCap, использованные для обучения и тонкой настройки Theia-Llama-3.1-8B, включают документы проектов, такие как белые книги, официальные посты в блогах и новостные статьи.
Исследовательские отчеты были получены из надежных онлайн-источников, чтобы предоставить глубокие знания о фундаментальных показателях проекта, рыночном влиянии и прогрессе разработки.
пост в блоге далее детализирует, что данные из этих двух основных источников также прошли ручную и алгоритмическую фильтрацию для снижения избыточности и устранения ошибок.
Chainbase также использовала сложные методы для тонкой настройки и оптимизации модели. Команда использовала LoRA (Low-Rank Adaptation) для эффективной тонкой настройки. Это помогло адаптировать базовую модель Llama-3.1-8B-Instruct к домену криптовалют.
Процесс обучения был улучшен с использованием LLaMA Factory и DeepSpeed, включая передовые методы, такие как ZeRO, offload, sparse attention, 1-bit Adam и pipeline parallelism, чтобы ускорить обучение и снизить использование памяти.
Помимо тонкой настройки, Chainbase оптимизировала модель для подготовки к эффективному развертыванию. Этот процесс квантования уменьшает объем потребляемой памяти и ускоряет вывод результатов, сохраняя при этом приемлемую точность.
Chainbase предложила бенчмарк для крипто-ИИ моделей
Для оценки производительности Theia-Llama-3.1-8B Chainbase предложила бенчмарк для крипто-ИИ моделей.
Бенчмарк оценивает модели по семи направлениям, включая понимание и генерацию криптографических знаний, охват знаний и способности к рассуждению.
Первоначальные результаты бенчмарка, сфокусированные на способностях понимания и генерации в крипто-домене, показывают, что Theia-Llama-3.1-8B превосходит 11 других LLM. Это включает популярные модели от OpenAI, Google, Meta, Qwen и DeepSeek. Модель достигла показателя перплексии 1,184 и оценки BERT 0,861, превзойдя основные модели, представленные на рынке в настоящее время.
Chainbase также заявила в своем посте в блоге, что производительность Theia-Llama-3.1-8B превосходит производительность основных моделей, доступных на рынке в настоящее время. «Далее мы создадим более крупные модели и оценим больше измерений моделей», заявила Chainbase.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Вигнеш Карунанидхи
Вигнеш — автор контента о криптовалютах, крипто-журналист, редактор контента и менеджер социальных сетей. Более 6 лет он работал с Watcher.guru, BeInCrypto, CoinGape, Milkroad и Airdrops. Его навыки освещения новостей в сфере технологий, робототехники, бизнеса и ИИ были отточены благодаря степени магистра коммерции.
