Chainbase تكشف عن نموذج لغة ذكاء اصطناعي مفتوح المصدر يركز على العملات المشفرة

أطلقت Chainbase نموذج الذكاء الاصطناعي مفتوح المصدر، Theia-Llama-3.1-8B. إنه نموذج لغوي يركز على العملات المشفرة.

كانت الشركة قد أطلقت نسخة ألفا من روبوت الدردشة المسمى TheiaChat في أغسطس. تم إصداره في ذلك الوقت للكشف عن ميزات Theia.

تم استخلاص تدريب Theia من مصدرين

تم أخذ البيانات المستخدمة لتدريب النموذج من CoinMarketCap وتقارير بحثية أخرى. تشمل بيانات CoinMarketCap المستخدمة لتدريب وضبط نموذج Theia-Llama-3.1-8B وثائق المشاريع مثل الأوراق البيضاء، ومنشورات المدونة الرسمية، ومقالات الأخبار.

تم الحصول على تقارير البحث من مصادر موثوقة عبر الإنترنت لتوفير رؤى متعمقة حول أساسيات المشروع، وتأثير السوق، والتقدم في التطوير.

تفصّل منشور المدونة المزيد من التفاصيل بأن البيانات من هذين المصدرين الرئيسيين خضعت أيضاً لفلترة يدوية وخوارزمية لتقليل التكرار والقضاء على الأخطاء.

استخدمت Chainbase أيضاً تقنيات متطورة في ضبط النموذج وتحسينه. استخدم الفريق تقنية LoRA (التكيف منخفض الرتبة) لضبط فعال. ساعد ذلك في تكييف نموذج Llama-3.1-8B-Instruct الأساسي مع مجال العملات المشفرة.

تم تعزيز عملية التدريب باستخدام LLaMA Factory وDeepSpeed، مع دمج تقنيات متقدمة مثل ZeRO، offload، الانتباه المتقطع (Sparse attention)، Adam 1-bit، والتوازي التسلسلي لتسريع التدريب وتقليل استخدام الذاكرة.

بالإضافة إلى الضبط، قامت Chainbase بتحسين النموذج لإعدته للنشر الفعال. تقلل عملية التكميم (Quantization) هذه من بصمة الذاكرة للنموذج وتسرع الاستدلال مع الحفاظ على دقة مقبولة.

اقترحت Chainbase معياراً لنماذج الذكاء الاصطناعي في العملات المشفرة

لتقييم أداء نموذج Theia-Llama-3.1-8B، اقترحت Chainbase معياراً لنماذج الذكاء الاصطناعي في العملات المشفرة.

يقيم المعيار النماذج عبر سبعة أبعاد، بما في ذلك فهم وتوليد المعرفة في مجال العملات المشفرة، وتغطية المعرفة، والقدرات الاستدلالية.

تظهر نتائج المعيار الأولية التي تركز على الفهم والقدرات التوليدية في مجال العملات المشفرة أن نموذج Theia-Llama-3.1-8B يتفوق على 11 نموذجاً لغوياً كبيراً آخر. يشمل ذلك النماذج الشائعة من OpenAI وGoogle وMeta وQwen وDeepSeek. حقق النموذج درجة التشتت (Perplexity) 1.184 ودرجة BERT 0.861، متجاوزاً النماذج السائدة المتاحة حالياً في السوق.

أوضحت Chainbase أيضاً في منشور مدونتها أن أداء نموذج Theia-Llama-3.1-8B يتجاوز أداء النماذج السائدة المتاحة حالياً في السوق. "في الخطوة التالية، سنقوم ببناء نماذج أكبر وتقييم أبعاد أكثر للنماذج،" ذكرت Chainbase.