ToolLLM يُظهر قدرات مذهلة في إتقان 16,464 واجهة برمجة تطبيقات RESTful حقيقية

في ورقة بحثية رائدة بعنوان "ToolLLM: تسهيل نماذج اللغات الكبيرة لإتقان 16,464 واجهة برمجة تطبيقات واقعية"، يقدم فريق من الباحثين من مؤسسات مرموقة إطار عمل ثورياً يستغل قوة نماذج اللغات الكبيرة (LLMs) لإتقان أكثر من 16,464 واجهة برمجة تطبيقات RESTful واقعية. تدرس الدراسة، التي أجراها باحثون من جامعة تسينغهوا، وشركة ModelBest Inc.، وجامعة رينمين الصينية، وجامعة ييل، وشركة Tencent Inc.، وشركة Zhihu Inc.، قيود نماذج اللغات الكبيرة الحالية في أداء المهام ذات المستوى الأعلى، لا سيما في تعلم استخدام الأدوات الخارجية مثل واجهات برمجة التطبيقات.

تحدي استخدام الأدوات لنماذج اللغات الكبيرة

بينما وجدت نماذج اللغات الكبيرة (LLMs) تطبيقات واسعة في سيناريوهات العالم الحقيقي المختلفة، كان أداؤها في المهام التي تنطوي على استخدام أدوات خارجية، مثل واجهات برمجة التطبيقات، محدوداً. وقد فشلت الجهود السابقة في معالجة هذه المشكلة، حيث عانت من صعوبة في تحفيز قدرات استخدام الأدوات بشكل كامل في نماذج اللغات الكبيرة. بالإضافة إلى ذلك، واجهت قيوداً، بما في ذلك نطاق ضيق من واجهات برمجة التطبيقات، وسيناريوهات محدودة، وتخطيط واستدلال غير كافٍ.

لتجاوز هذه التحديات، يقدم فريق البحث ToolLLM، وهو إطار عمل عام ثوري لاستخدام الأدوات يُظهر قدرات مذهلة في إتقان 16,464 واجهة برمجة تطبيقات RESTful واقعية. يبدأ الباحثون بإنشاء مجموعة بيانات عالية الجودة لضبط التعليمات تُسمى ToolBench. تتضمن عملية بناء المجموعة ثلاث مراحل رئيسية، مما يضمن نهجاً شاملاً وفعالاً.

المرحلة 1: جمع واجهات برمجة التطبيقات

يقوم الفريق بجمع مجموعة بيانات ضخمة مكونة من 16,464 واجهة برمجة تطبيقات RESTful من RapidAPI، تمتد عبر 49 فئة تشمل مجالات متنوعة مثل وسائل التواصل الاجتماعي، والتجارة الإلكترونية، والطقس. يضمن هذا النطاق الواسع من واجهات برمجة التطبيقات مرونة الإطار في التعامل مع مهام العالم الحقيقي المختلفة.

المرحلة 2: توليد التعليمات

لتوليد التعليمات، يقوم الباحثون بأخذ عينات من واجهات برمجة التطبيقات من المجموعة المجمعة ويطلبون من ChatGPT، وهو نموذج لغوي كبير شائع الاستخدام، توليد تعليمات متنوعة لكل من سيناريوهات الأداة الواحدة والأدوات المتعددة. تضمن هذه الخطوة أن ToolLLM يمكنه التعامل مع المهام المعقدة التي تنطوي على واجهات برمجة تطبيقات متعددة، مما يعزز قابليته للتطبيق العملي.

المرحلة 3: تدوين مسار الحل

في هذه المرحلة، يقوم الفريق بتدوين استجابات عالية الجودة للتعليمات المُولّدة، مما يضمن أن الإطار يتلقى بيانات تدريب دقيقة وموثوقة. تعتبر الاستجابات عالية الجودة ضرورية لتحسين أداء ToolLLM ودقته.

تعزيز التخطيط والاستدلال باستخدام DFSDT

لجعل جمع البيانات أكثر كفاءة وتعزيز قدرات التخطيط والاستدلال لنماذج اللغات الكبيرة، يقدم الباحثون شجرة قرار جديدة تعتمد على البحث العمق أولاً (DFSDT). يحسن هذا النهج المبتكر بشكل كبير قدرة ToolLLM على التعامل مع السيناريوهات المعقدة وإيجاد الحلول المثلى.

ضبط نماذج اللغات الكبيرة بدقة وبناء ToolEval

يواصل الباحثون ضبط نموذج LLaMA، وهو متغير من نماذج اللغات الكبيرة، باستخدام مجموعة بيانات ToolBench. النتيجة هي ToolLLaMA، وهو نموذج قوي لاستخدام الأدوات جاهز لإظهار قدراته. بالإضافة إلى ذلك، طور الفريق مقيّماً تلقائياً يُسمى ToolEval لتقييم أداء ToolLLaMA. يضمن الجمع بين النماذج المضبوطة بدقة والمقيّم التقييمي موثوقية وكفاءة في تقييم قدرات الإطار.

أداء مذهل ووعد بأبحاث مستقبلية

من خلال التجارب والتقييمات الدقيقة، لاحظ فريق البحث أن ToolLLaMA يتفوق على الأساليب التقليدية لاستخدام الأدوات، مما يُظهر قدراته الاستثنائية ضمن نماذج اللغات الكبيرة. علاوة على ذلك، يُظهر الإطار إمكاناته لإتقان واجهات برمجة تطبيقات غير مرئية سابقاً، مما يوسع من قابليته للتطبيق العملي.

أفق جديد لضبط التعليمات واستخدام الأدوات في نماذج اللغات الكبيرة

يفتح التطوير الناجح لـ ToolLLM إمكانيات مثيرة في مجال ضبط التعليمات واستخدام الأدوات لنماذج اللغات الكبيرة. يعتقد الباحثون أن عملهم سيُلهم المزيد من الأبحاث في هذا التقاطع، مما يؤدي إلى نماذج لغوية أكبر وأكثر تعقيداً وقدرة.

الوصول إلى ToolLLM والآثار المستقبلية

جعل الباحثون الأكواد، والنماذج المدربة، وعرضاً توضيحياً لـ ToolLLM متاحين علناً على GitHub. يضمن هذا التحرك إمكانية الوصول ويشجع على التعاون في تقدم المجال. ومع استمرار ToolLLM في تشكيل مستقبل نماذج اللغات الكبيرة والتطبيقات الواقعية، تبدو إمكانيات دمجها في مختلف الصناعات والقطاعات لا حصر لها.

تمثل ورقة البحث الخاصة بفريق البحث حول ToolLLM قفزة كبيرة إلى الأمام في استغلال الإمكانات الكاملة لنماذج اللغات الكبيرة لإتقان واجهات برمجة التطبيقات الواقعية. من خلال التغلب على القيود الحالية وتقديم إطار عمل شامل لاستخدام الأدوات، يُظهر ToolLLM القدرات المذهلة لنماذج اللغات الكبيرة في التعامل مع المهام المتنوعة. إن توفر عملهم على GitHub وآثاره الواعدة للأبحاث المستقبلية تمهد الطريق لمزيد من التقدم في مجال ضبط التعليمات واستخدام الأدوات لنماذج اللغات الكبيرة.