- ChainbaseがオープンソースAIモデルTheia-Llama-3.1-8Bをリリース
- 本モデルは包括的な暗号通貨向けデータセットで学習されています。
- ベンチマーク結果では、Theiaが主流モデルを上回るパフォーマンスを示しています。
Chainbaseは、暗号に焦点を当てた言語モデルであるTheia-Llama-3.1-8BというオープンソースAIモデルをリリースしました。
同社は8月にTheiaChatという名前のチャットボットのアルファバージョンを立ち上げました。これは当時、Theiaの機能を明らかにするためにリリースされました。
Theiaのトレーニングは2つのソースから行われました
モデルのトレーニングに使用されたデータは、CoinMarketCapおよびその他のリサーチレポートから取得されました。Theia-Llama-3.1-8Bのトレーニングおよびファインチューニングに使用されたCoinMarketCapのデータには、プロジェクトのドキュメント（ホワイトペーパー、公式ブログ投稿、ニュース記事など）が含まれています。
リサーチレポートは、プロジェクトの基礎、市場への影響、開発進捗に関する詳細な洞察を提供するために、信頼できるオンラインソースから取得されました。
ブログ投稿では、これらの2つの主要ソースからのデータが冗長性を減らしエラーを排除するために手動およびアルゴリズム的なフィルタリングも通過したことがさらに詳細に説明されています。
Chainbaseはまた、モデルのファインチューニングと最適化に洗練された技術を使用しました。チームは効率的なファインチューニングのためにLoRA（Low-Rank Adaptation）を使用しました。これにより、ベースのLlama-3.1-8B-Instructモデルを暗号通貨ドメインに適応させることができました。
トレーニングプロセスはLLaMA FactoryとDeepSpeedを使用して強化され、ZeRO、オフロード、スパースアテンション、1-bit Adam、パイプライン並列処理などの先進的な技術を採用して、トレーニングの高速化とメモリ使用量の削減を図りました。
ファインチューニングに加え、Chainbaseはモデルを最適化し、効率的なデプロイメントに備えました。この量子化プロセスは、モデルのメモリフットプリントを削減し、許容できる精度を維持しながら推論を高速化します。
Chainbase、暗号AIモデルのベンチマークを提案
Theia-Llama-3.1-8Bのパフォーマンスを評価するために、Chainbaseは暗号AIモデルのベンチマークを提案しました。
このベンチマークは、暗号知識の理解と生成、知識のカバレッジ、推論能力など、7つの次元にわたってモデルを評価します。
暗号ドメインにおける理解と生成能力に焦点を当てた初期ベンチマーク結果は、Theia-Llama-3.1-8Bが他の11のLLMを上回っていることを示しています。これには、OpenAI、Google、Meta、Qwen、DeepSeekからの人気モデルが含まれます。このモデルは1.184のパープレキシティスコアと0.861のBERTスコアを達成し、現在市場で入手可能な主流モデルを上回りました。
Chainbaseはまた、ブログ投稿で、Theia-Llama-3.1-8Bのパフォーマンスが現在市場で入手可能な主流モデルを上回っていると述べています。「次に、より大きなモデルを構築し、モデルのより多くの次元を評価します。」 Chainbaseは述べています。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ヴィグネシュ・カラヌニディ
ヴィグネシュは暗号通貨コンテンツライター、暗号通貨ジャーナリスト、コンテンツ編集者、ソーシャルメディアマネージャーです。Watcher.guru、BeInCrypto、CoinGape、Milkroad、Airdropsなどで6年以上活動してきました。商学修士号を取得し、テクノロジー、ロボティクス、ビジネス、AIニュースのカバー力を磨いてきました。
