Chainbase revela código aberto de modelo de linguagem AI focado em cripto
- A Chainbase lança o modelo de IA open-source Theia-Llama-3.1-8B.
- O modelo é treinado em um conjunto de dados abrangente voltado para criptomoedas.
- Os resultados dos benchmarks mostram que o Theia supera os modelos mainstream.
A Chainbase lançou o modelo de IA de código aberto, Theia-Llama-3.1-8B. É um modelo de linguagem que se concentra em criptomoedas.
A empresa havia lançado uma versão alpha do chatbot chamado TheiaChat em agosto. Foi lançado na época para divulgar os recursos do Theia.
O treinamento do Theia foi extraído de duas fontes
Os dados usados para treinar o modelo foram retirados da CoinMarketCap e de outros relatórios de pesquisa. Os dados da CoinMarketCap usados para treinar e ajustar finamente o Theia-Llama-3.1-8B incluem documentos de projetos como whitepapers, posts de blog oficiais e artigos de notícias.
Os relatórios de pesquisa foram obtidos de fontes online credíveis para fornecer insights profundos sobre os fundamentos do projeto, influência de mercado e progresso do desenvolvimento.
O post do blog detalha ainda que os dados dessas duas fontes principais também passaram por filtragem manual e algorítmica para reduzir a redundância e eliminar erros.
A Chainbase também usou técnicas sofisticadas no ajuste fino e otimização do modelo. A equipe usou LoRA (Adaptação de Baixo Ranque) para um ajuste fino eficiente. Isso ajudou a adaptar o modelo base Llama-3.1-8B-Instruct ao domínio das criptomoedas.
O processo de treinamento foi aprimorado usando LLaMA Factory e DeepSpeed, incorporando técnicas avançadas como ZeRO, offload, atenção esparsa, 1-bit Adam e paralelismo de pipeline para acelerar o treinamento e reduzir o uso de memória.
Além do ajuste fino, a Chainbase otimizou o modelo para prepará-lo para uma implantação eficiente. Este processo de quantização reduz a pegada de memória do modelo e acelera a inferência enquanto mantém a precisão aceitável.
Chainbase propõe benchmark para modelo AI de cripto
Para avaliar o desempenho do Theia-Llama-3.1-8B, a Chainbase propôs um benchmark para modelos AI de cripto.
O benchmark avalia os modelos em sete dimensões, incluindo compreensão e geração de conhecimento cripto, cobertura de conhecimento e capacidades de raciocínio.
Os resultados iniciais do benchmark, focando nas capacidades de compreensão e geração no domínio cripto, mostram o Theia-Llama-3.1-8B superando outros 11 LLMs. Isso inclui modelos populares da OpenAI, Google, Meta, Qwen e DeepSeek. O modelo alcançou uma pontuação de perplexidade de 1,184 e uma pontuação BERT de 0,861, superando modelos mainstream atualmente no mercado.
A Chainbase também afirmou em seu post de blog que o desempenho do Theia-Llama-3.1-8B excede o de modelos mainstream atualmente disponíveis no mercado. “A seguir, construiremos modelos maiores e avaliaremos mais dimensões dos modelos,” afirmou a Chainbase.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Vignesh Karunanidhi
Vignesh é escritor de conteúdo cripto, jornalista cripto, editor de conteúdo e gerente de redes sociais. Ele trabalhou com Watcher.guru, BeInCrypto, CoinGape, Milkroad e Airdrops por mais de 6 anos. Suas habilidades em cobrir notícias de tecnologia, robótica, negócios e IA foram aprimoradas por meio de um mestrado em Comércio.
