المتدرب الجديد Mixtral 8x7B يتحدى النماذج الرائدة في الذكاء الاصطناعي بأداء مثير للإعجاب

في المشهد سريع التطور للذكاء الاصطناعي، ظهر لاعب جديد نسبياً في المشهد، مما أثار ضجة في عالم التكنولوجيا. Mixtral 8x7B، الذي طورته شركة الذكاء الاصطناعي الفرنسية Mistral AI، يلفت الأنظار بنهجها الفريد وقدراتها المذهلة. تغوص هذه المقالة في ما يجعل Mixtral 8x7B يبرز ولماذا يخلق ضجة في مجتمع الذكاء الاصطناعي.

Mixtral 8x7B: لاعب تغيير اللعبة

بينما كان tech world مسحوراً بتحديث Google Gemini لـ Bard، دخل Mixtral 8x7B بهدوء إلى السباق. ما يميزه هو استخدامه لمزيج من الخبراء (MoE) لتوليد استجابات تشبه البشر. يختلف هذا النهج بشكل كبير عن النماذج مثل ChatGPT و Google Bard. ومن المثير للاهتمام أن Mixtral 8x7B يتميز بنموذج قوي يحتوي على 46.7 مليار معلمة، لكنه يتطلب فقط جزءاً صغيراً من موارد الأجهزة.

أداء Mixtral 8x7B لا ينبغي الاستهانة به. إنه يتطابق بثقة أو حتى يتفوق على نموذج GPT-3.5 الشهير لـ ChatGPT ونموذج Meta Llama 2 70B. هذا النموذج مفتوح المصدر مرخص بموجب Apache 2.0، مما يسمح لأي شخص بالوصول إليه واستخدامه. إنه ليس محصوراً في لغة واحدة، حيث يمكنه العمل بسلاسة في الإنجليزية والفرنسية والإيطالية والألمانية والإسبانية. علاوة على ذلك، لديه القدرة على توليد الكود.

تعرف على Mistral AI – العقول وراء ثورة الذكاء الاصطناعي

Mistral AI، العقول وراء Mixtral، هي شركة ذكاء اصطناعي فرنسية أسسها باحثون لديهم خبرة سابقة في كل من Meta و Google. هذا العام، أحدثت Mistral AI ضجة من خلال تأمين حوالي 450 مليون يورو من التمويل. كان إصدار Mixtral 8x7B، أحدث نموذج لها، بعيداً عن التقليدي، مع مشاركة رابط مغناطيسي Torrent غير مميز على Twitter.

ميزة MoE

يعمل Mixtral باستخدام بنية MoE لمعالجة الرموز الواردة، وتوزيعها على خبراء مختلفين داخل النظام. كل خبير هو في الأساس شبكة عصبية، ويتميز Mixtral 8x7B بثمانية منها. تسمح هذه البنية بـ MoEs الهرمية، حيث يمكن أن يكون الخبير نفسه MoE آخر. عند تقديم مطالبة إلى Mixtral 8x7B، تختار شبكة التوجيه الخبير الأكثر فعالية لمعالجة كل رمز. ومن المثير للاهتمام، يتم اختيار خبيرين لكل رمز، ويتم دمج مخرجاتهما.

لدى MoEs نقاط قوتها وضعفها. إنها تتفوق من حيث كفاءة الحساب أثناء التدريب المسبق، لكنها قد تقع ضحية للإفراط في التخصيص أثناء الضبط الدقيق. الإفراط في التخصيص، في هذا السياق، يشير إلى النماذج التي تعتمد بشكل مفرط على بيانات التدريب الخاصة بها وتعيد إنتاجها حرفياً في الاستجابات. من الناحية الإيجابية، تقدم MoEs أوقات استنتاج أسرع حيث يتم استخدام مجموعة فرعية فقط من الخبراء أثناء الاستنتاج. 

ومع ذلك، لا تزال تتطلب ذاكرة وصول عشوائي (RAM) كافية لاستيعاب نموذج يحتوي على 47 مليار معلمة. تختلف الـ 47 مليار معلمة عن الـ 56 مليار متوقعة، حيث يتم مشاركة العديد من المعلمات بين MoEs، وليس كل 7 مليار معلمة في كل خبير مضروبة في ثمانية.

سهل الاستخدام ومتاح

إحدى الميزات البارزة لـ Mixtral 8x7B هي سهولة استخدامه. إنه قابل للضبط بالكامل من قبل المستخدم ومتاح للنشر من قبل أي شخص لديه جهاز كمبيوتر قوي بما فيه الكفاية. يمكن للمستخدمين تشغيله محلياً باستخدام LM Studio، مما يضمن التحكم الأمثل في سلوك النموذج. بالإضافة إلى ذلك، يمكن تمكين ضوابط الحماية لحماية المحتوى الضار المحتمل، على الرغم من أنها غير مفعلة بشكل افتراضي. يضمن ذلك تجربة ذكاء اصطناعي آمنة ومسؤولة.

بالنسبة لأولئك الذين يفضلون عدم تشغيل Mixtral محلياً أو يفتقرون إلى متطلبات الأجهزة، فهو متاح على Hugging Face. تأتي تنفيذية Hugging Face مع ضوابط افتراضية، مما يوفر تجربة مشابهة لـ ChatGPT 3.5 من حيث الأداء ونطاق الاستفسارات التي يمكنها التعامل معها. لا يتخصص Mixtral 8x7B في مجال معين؛ بل هو نموذج لغوي كبير متعدد الاستخدامات وشامل.

مستقبل الذكاء الاصطناعي التوليدي

مع استمرار تقدم التكنولوجيا، شهد عام 2023 طفرة في نماذج الذكاء الاصطناعي التوليدي. من المتوقع أن يتطور المشهد أكثر في العام المقبل، مع احتمال إصدار المزيد من النماذج وتحسينات مستمرة. مع الشائعات الدائرة حول OpenAI والظهور المحتمل للذكاء العام الاصطناعي، فإن عالم الذكاء الاصطناعي مستعد لمزيد من التطورات المثيرة في المستقبل القريب. من المقرر أن يكون Mixtral جزءاً من ذلك المستقبل.