من خلال تشغيل حل الأعمال الشامل مثل AI21 مع التغلب على جميع النماذج العالمية المعروفة من حيث الإنتاجية، يصبح Jambo أول نموذج متاح على طريقة تعتمد على Mamba على مستوى الإنتاج. من خلال دمج تقنية Mamba SSM وعناصر بنية Transformer القديمة، تمثل Jamba رؤية جديدة في تصميم نموذج اللغة الأكبر ( LLM ).
إحداث ثورة في LLMs
يشير مظهر Jamba إلى تحول عصر في حالة LLMs، التي تتعامل بكفاءة مع قيود أنواع SSM العادية وأنواع المحولات. من خلال المغامرة في حجم نافذة السياق الذي يصل إلى 256 كيلو بايت، يُنظر إلى Jamba على أنه يتمتع بميزة كبيرة مقارنة بالنماذج الأخرى في مناطق مماثلة وفقًا لمعايير مختلفة، وبالتالي يضع المعيار الجديد كمقياس لأفضل كفاءة وأداء.
تتميز بنية Jamba بالعديد من الجوانب التي تجعلها نظامًا هجينًا من Transformers وMambas وخليط من الخبراء (MoE) الذين يعملون معًا في تآزر. ينفذ هذا التكامل تحسين استخدام الذاكرة جنبًا إلى جنب مع الإنتاجية، وهو المحور الرئيسي لمهمة لغوية واسعة النطاق، ويدفع الحد الأقصى للأداء الذي يمكن الوصول إليه.
إن قابلية التوسع هي جوهر Jamba، مما يعني أنه يمكنه التعامل مع أكثر من 140 ألف سياق باستخدام وحدة معالجة رسومات واحدة فقط. يمكن لقابلية التوسع هذه إبقاء العمليات والمشاركة بعيدًا، مما يساعد على التعلم والاستكشاف وتوليد معرفة جديدة وتعزيز الابتكار داخل مجتمع الذكاء الاصطناعي.
إنجازات بارزة
لا يمثل إطلاق Jamba ظاهرة تغيير قواعد اللعبة فحسب، بل يمثل أيضًا خطوة رائدة إلى الأمام في مجال أبحاث LLM. أولاً، نجح في دمج بنية Mamba وTransformer بطريقة تجعل الاثنين يعملان معًا مثل المتكافلين، حيث تبين أن الجمع بينهما أقوى حقًا من النصفين الفرديين. علاوة على ذلك، يقدم النص نسخة هجينة من محولات SSM التي تجمع بين قوة وسرعة محولات SSM الموجودة الأخرى مع القدرة على العمل بشكل أفضل في سياقات جديدة.
ومع ذلك، فقد عبر داغان، نائب رئيس المنتج في AI21، بشكل لا يصدق وأبقى الهيكل المعماري المختلط لجامبا في المقدمة. وأوضح كيف تسمح مرونة Jamba بالتسليم السريع لحالات الاستخدام بكميات ضخمة وتدعم السرعة في الوقت الفعلي، وتسريع إطلاق حالات الاستخدام الحرجة.
تعاون مفتوح المصدر
يشير إصدار Jamba للأوزان المفتوحة مع ترخيص Apache 2.0 إلى أن AI21 يمكنه تنفيذ هذا النوع من العمولات في مجتمع مفتوح المصدر. تلتزم AI21 بتوفير بيئة يمكن من خلالها تعزيز التطورات الجديدة من خلال تشجيع المزيد من المساهمات والأفكار.
يؤدي تغليف NVIDIA GPU كخدمة صغيرة لاستدلال NIM إلى تبسيط إمكانية الوصول إلى Jamba التي تعمل على تشغيل تطبيقات المؤسسة. الإنسانية: يتيح التكامل السلس نشرًا سريعًا وخاليًا من المشكلات أثناء ترقية تطبيقات Jampa في جميع السيناريوهات اليومية تقريبًا.
يمثل إطلاق AI21 لـ Jamba علامة فارقة مهمة في مجال الذكاء الاصطناعي بالشركة. تستعد شركة Jamba لإحداث تحول في صناعة نماذج اللغة من خلال تقديم بنية هجينة مبتكرة وقابلية توسع لا مثيل لها وميزات استثنائية لتكامل النماذج. ولذلك، فهو يزود العملاء بالقيام بمهامهم اللغوية الصعبة بسهولة وأسرع مما كان ممكنًا في السابق.
أظهرت AI21 أيضًا دعمها للتعاون مفتوح المصدر والشراكات التجارية مع شركات الذكاء الاصطناعي الرائدة مثل NVIDIA، والتي تُظهر أيضًا تفانيها في قيادة وتيرة التقدم التكنولوجي وزيادة اعتماد حلول الذكاء الاصطناعي عالية الكفاءة في مختلف المجالات.
ومع ذلك، تتأكد جامبا من مكانتها ضمن المشهد الأوسع للذكاء الاصطناعي من حيث صلته بمعالجة اللغة؛ وبالتالي، سيكون التأثير محسوسًا إلى ما هو أبعد بكثير من نطاق منصات معالجة اللغات التقليدية للدخول في نظام جديد من حلول الأعمال المدعومة بالذكاء الاصطناعي.
