Chainbase公开了专注于加密货币的AI语言模型

- Chainbase 发布开源 AI 模型 Theia-Llama-3.1-8B。
- 该模型基于全面的加密货币定向数据集进行训练。
- 基准测试结果显示,Theia 的表现优于主流模型。
Chainbase发布了开源AI模型Theia-Llama-3.1-8B。这是一个专注于加密货币的语言模型。
该公司在8月份推出了名为TheiaChat的聊天机器人测试版。当时发布是为了披露Theia的功能。
Theia的训练来自两个来源
用于训练模型的数据取自CoinMarketCap和其他研究报告。用于训练和微调Theia-Llama-3.1-8B的CoinMarketCap数据包括项目文档,如白皮书、官方博客文章和新闻文章。
研究报告来自可信的在线来源,以提供对项目基本面、市场影响和发展进程的深入见解。
博客文章进一步详细说明,来自这两个主要来源的数据也经过了手动和算法过滤,以减少冗余并消除错误。
Chainbase还在微调和优化模型时使用了复杂的技术。团队使用LoRA(低秩自适应)进行高效微调。这有助于将基础Llama-3.1-8B-Instruct模型适应加密货币领域。
训练过程通过使用LLaMA Factory和DeepSpeed得到增强,结合了ZeRO、卸载、稀疏注意力、1-bit Adam和流水线并行等先进技术,以加快训练速度并减少内存使用。
除了微调,Chainbase还优化了模型以准备其高效部署。这种量化过程减少了模型的内存占用,并在保持可接受准确性的同时加快了推理速度。
Chainbase提出了一个加密货币AI模型基准
为了评估Theia-Llama-3.1-8B的性能,Chainbase提出了一个加密货币AI模型基准。
该基准从七个维度评估模型,包括加密货币知识理解和生成、知识覆盖范围以及推理能力。
专注于加密货币领域理解和生成能力的初步基准结果显示,Theia-Llama-3.1-8B优于其他11个LLM。这包括来自OpenAI、Google、Meta、Qwen和DeepSeek的流行模型。该模型实现了1.184的困惑度得分和0.861的BERT得分,超过了目前市场上主流模型。
Chainbase还在其博客文章中指出,Theia-Llama-3.1-8B的性能超过了目前市场上主流模型。“接下来,我们将构建更大的模型并评估模型的更多维度,” Chainbase表示。
不要只是阅读加密货币新闻,要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Vignesh Karunanidhi
Vignesh 是一位加密货币内容作家、记者、内容编辑和社交媒体经理。他拥有商学硕士学位,在科技、机器人、商业和人工智能新闻领域积累了丰富经验。过去 6 多年间,他曾服务于 Watcher.guru、BeInCrypto、CoinGape、Milkroad 及 Airdrops 等平台。
















