الطريقة الجديدة لـ Alibaba تقضي على تكاليف بحث الذكاء الاصطناعي بنسبة تقريباً 90%

تقول مجموعة Alibaba Group Holding إنها وجدت طريقة لتقليل تكاليف تدريب نماذج الذكاء الاصطناعي الموجهة للبحث بنسبة تصل إلى 90 في المئة.

في البحثية تم نشره على خادم arXiv الأسبوع الماضي، يصف الباحثون في شركة التكنولوجيا الصينية "ZeroSearch"، اختصار تدريب يسمح لنماذج اللغة الكبيرة بتحسين مهارات البحث لديها بكسر من التكلفة.

تجادل Alibaba بأن النهج يزيل واحدة من أكثر الخطوات تكلفة في التعلم المعزز: توجيه عشرات الآلاف من الاستعلامات عبر واجهات برمجة التطبيقات المدفوعة.

يستخدم ZeroSearch هذه الاختناقات لصالحه. يعمل نموذج مرجعي يمتلك بالفعل قاعدة معرفة واسعة كبديل لمحرك بحث، منتجاً مستندات مفيدة وضوضاء متعمدة لكل استعلام. يتم بعد ذلك تدريب النماذج الأحدث على تلك المستندات الضوضائية المصنوعة ذاتياً.

يبدأ الضبط الدقيق باستخدام أوامر واضحة وإجابات نظيفة. مع مرور الوقت، تضيف "خطة منهجية" الفوضى والأخطاء المطبعية والتناقضات، مما يجعل نموذج المتدرب يواجه بيئة أقرب إلى الإنترنت المفتوح.

ووفقاً للورقة البحثية، فإن ضوضاء البيانات تعزز القدرة على الاستدلال وتعلّم النظام كيفية الصمود في بيئات البيانات الفوضوية. "تتمثل رؤيتنا الرئيسية في أن نماذج اللغات الكبيرة (LLMs) قد اكتسبت معرفة واسعة بالعالم أثناء التدريب المسبق واسع النطاق، وقادرة على توليد وثائق ذات صلة بناءً على استعلام بحثي،" يشرح الباحثون.

لا تحتاج الفرق إلى دفع مقدمي الخدمات الخارجيين مقابل كل استعلام. يعد هذا التغيير مهمًا بشكل خاص للفرق الأصغر التي تمتلك موارد محدودة. على سبيل المثال، يمكن أن تكلف إرسال 64,000 استعلام إلى Google عبر واجهة برمجة التطبيقات حوالي 586.70 دولارًا أمريكيًا. تشغيل نفس التدريب مع نموذج يحتوي على 14 مليار معلمة نموذج الذكاء الاصطناعي يكلف حوالي 70.80 دولارًا أمريكيًا، مما يوفر 88 بالمائة.

لا يتطلب ZeroSearch من Alibaba أي أجهزة إضافية

يزعم فريق ZeroSearch أنه لا يفرض متطلبات أجهزة إضافية. فهو يعتمد على ضبط الدقة الخاضع للإشراف القياسي، لذا تظل احتياجات الحوسبة السحابية ضمن نطاق الميزانيات التطويرية النموذجية.

جذبت الورقة البحثية بالفعل انتباه الدوائر الأكاديمية في مجال تعلم الآلة. ويقول مراقبو الصناعة إن الوفورات قد تؤثر على دورات الميزانيات القادمة خلال السنة المالية المقبلة.

يتسابق منافسو الصناعة لتقليل تكاليف تدريب نماذج اللغات الكبيرة بينما يدفعون منتجات الذكاء الاصطناعي التوليدي الجديدة.

الميزة الجديدة من Alibaba تأتي في وقت تتنافس فيه الشركات الصينية مع شركات أمريكية مثل Google وOpenAI، والتي استثمرت بكثافة في وكلاء الذكاء الاصطناعي. ومن خلال الإبلاغ عن خفض للتكاليف بنسبة قريبة من عشرة أضعاف، تشير Alibaba إلى أن تكلفة بحث الذكاء الاصطناعي قد تتغير قريبًا.