تقول مجموعة Alibaba Holding إنها وجدت طريقة لتقليص تكاليف تدريب نماذج الذكاء الاصطناعي التي تركز على البحث بنسبة 90 في المائة تقريبًا.
في ورقة تم نشرها على خادم Arxiv الأسبوع الماضي ، يصف الباحثون في شركة التكنولوجيا الصينية "Zerosearch" ، وهو اختصار تدريب يتيح لنماذج اللغة الكبيرة تحسين مهارات البحث الخاصة بهم في جزء صغير من التكلفة.
يجادل Alibaba بأن النهج يزيل واحدة من أغلى الخطوات في التعلم التعزيز: توجيه عشرات الآلاف من الاستفسارات من خلال واجهات برمجة التطبيقات المدفوعة.
يضع Zerosearch مثل هذه الاختناقات لاستخدامها. يعمل النموذج المرجعي الذي يحمل بالفعل قاعدة معرفة واسعة كمحرك بحث بوقوف ، مما ينتج عنه مستندات مفيدة وصاخبة عن عمد لكل استعلام. ثم يتم تدريب النماذج الأحدث على تلك المستندات الصاخبة ذاتية الصنع.
يبدأ الرفع الناعم بمطالبات صياغة واضحة وإجابات نظيفة. بمرور الوقت ، يضيف "بدء تشغيل المناهج الدراسية" الفوضى والطبعات المطبعية والتناقضات بحيث يختبر نموذج المتدرب شيئًا أقرب إلى الإنترنت المفتوح.
وفقًا للورقة ، فإن ضوضاء البيانات تقوي المنطق وتعلم النظام للبقاء على قيد الحياة في بيئات البيانات الفوضوية. "إن رؤيتنا الرئيسية هي أن LLMs قد اكتسبت معرفة عالمية واسعة خلال تدريب كبير على نطاق واسع وقادرة على توليد مستندات ذات صلة بالنظر إلى استعلام بحث" ، يوضح الباحثون.
لا يتعين على الفرق دفع مقدمي الخدمات الخارجية لكل استعلام. التغيير مهم بشكل خاص بالنسبة للفرق الأصغر التي لديها موارد محدودة. على سبيل المثال ، يمكن أن يكلف إرسال 64000 استعلامات إلى Google من خلال واجهة برمجة التطبيقات حوالي 586.70 دولارًا أمريكيًا. إن تشغيل نفس التدريب مع طراز AI من ، تكلف ما يقرب من 70.80 دولارًا أمريكيًا ، وهو توفير بنسبة 88 في المائة.
لا يتطلب Zerosearch من Alibaba أجهزة إضافية
يجادل الفريق بأن Zerosearch لا يضيف متطلبات أجهزة إضافية. إنه يعتمد على تبديل غرامة خاضع للإشراف ، لذلك تبقى احتياجات حساب السحابة ضمن نطاق ميزانيات التطوير النموذجية.
لقد لفتت الورقة بالفعل الانتباه داخل دوائر التعلم الآلي الأكاديمي. يقول مراقبو الصناعة إن المدخرات قد تؤثر على دورات الميزانية القادمة خلال السنة المالية القادمة.
يتنافس منافسي الصناعة لتقليص تكاليف التدريب على نموذج اللغة الكبيرة حيث يدفعون منتجات AI جديدة.
ميزة Alibaba الجديدة حيث تتنافس الشركات الصينية مع الشركات الأمريكية مثل Google و Openai ، وكلاهما استثمر بكثافة في وكلاء الذكاء الاصطناعي. من خلال الإبلاغ عن تخفيض في التكلفة القريب من عشرة أضعاف ، تشير Alibaba إلى أن تكلفة البحث عن الذكاء الاصطناعي قد تتحول قريبًا.
أكاديمية Cryptopolitan: هل تريد تنمية أموالك في عام 2025؟ تعرف على كيفية القيام بذلك مع DeFi في مناسنا الإلكتروني القادم. احفظ مكانك
