نماذج الذكاء الاصطناعي الأصغر تتفوق على الأكبر في الكفاءة، دراسة جوجل تجد

في خضم جميع الدراسات التي حاولت توحيد مجال الذكاء الاصطناعي (AI) وتعاملت مع السؤال حول ما إذا كان هناك نقطة يمكن فيها للنماذج الأصغر من الذكاء الاصطناعي أن تتفوق على الأكبر في الفعالية، أخيراً دحضت دراسة جوجل للبحث وجامعة جونز هوبكنز هذا الحجة. لقد أظهرت أنه في سياق توليد الصور، تميل النماذج الأصغر إلى الأداء بشكل أفضل من نظيراتها الأكبر حجماً. في 2 مايو، كشفت الدراسة التي قادها كانغفو مي وتشينغتشونغ تو عن خصائص التوسع في نماذج الانتشار الكامن (LDMs). اكتشفوا أن التغييرات في دقة الصورة الناتجة لا تجلب تغييرات كبيرة، ومع ذلك فإن زيادة حجم النموذج يمكن أن تؤدي إلى تحسينات كبيرة. 

إعادة التفكير في كفاءة نماذج الذكاء الاصطناعي

استخدمت الدراسات نماذج LDMs تتراوح بين 39 مليون إلى 5 مليار معلمة مع تنوعات للمهام بما في ذلك توليد النص إلى صورة، والتفوق في الدقة، والتفوق في الدقة المدفوع بالموضوع بينما خضع المشاركون لعمليات تدريب وتقييم مدروسة ومقيّمة بعناية. الحقيقة المثبتة أن النماذج الأصغر تتحمل أكثر من ذلك بكثير، حتى لو لم تكن أكبر من تلك التي تتم مقارنتها، تظهر أنه عندما تكون الحسابات محدودة، يمكن للنماذج الأصغر حتى تجاوز النماذج الأكبر.

الاستكشافات التي أجرتها هذه الدراسة وجدت أنها معقدة. النقطة الأولى الجديرة بالملاحظة هي أن النماذج الصغيرة عالية الأداء وتعطي نفس الكفاءة أو أعلى في أخذ العينات عبر جميع أنواع مصادري الانتشار وحتى بعد إجراء تبسيط النموذج. 

هذا المتانة تفسر أن مقياس الشريحة للنماذج دون المستوى هو جزء لا يتجزأ من مزاياها وليس نتيجة مباشرة لخوارزمية أو طريقة التدريب. ومع ذلك، فإنها تعترف أيضاً بأن النماذج الأكبر يمكن أن تكون مفيدة لنفس الغرض أيضاً خاصة في الحالات التي لا تظهر فيها مشاكل تخصيص الموارد (مثل قوة الحوسبة) لأنها يمكن أن تنشئ صوراً بتفاصيل أفضل.

النتائج الرئيسية والتداعيات

مثل هذه الاكتشافات ليست ثورية فقط للفضاء التكنولوجي الحالي ولكن لها أيضاً عواقب كبيرة على تطوير الذكاء الاصطناعي. تلعب وظيفة مهمة في كيفية تطوير أنظمة الذكاء الاصطناعي مما يسمح بتوليد صور أكثر سهولة وقوة وصديقة للموارد بقدرات عالية المستوى. هذا مهم بشكل خاص في عصر حيث كان هناك دعوات متزايدة لتطوير الذكاء الاصطناعي بالانفتاح والوصول، بالطريقة التي سيتم بها تقديمه للمطورين وفي النهاية، للمستخدمين.

إنه يتماشى مع اتجاه معين في مجتمع الذكاء الاصطناعي يسود اليوم وهذا يوفر دليلاً على تفوق النماذج الأصغر مثل LLaMa و Falcon مقارنة بالباقي تحت مهام متنوعة. 

الاتجاه لتطبيق الأكواد مفتوحة المصدر، والتي تكون فعالة من حيث السرعة وتوفير طاقة الجهاز، سيزيد من مستوى الديمقراطية في عالم الذكاء الاصطناعي من خلال تمكين النظام من العمل دون طلب حساسية أنظمة الكمبيوتر المتقدمة. عواقب هذا النوع من الدراسة مدهشة جداً، والتي قد تؤدي إلى تغيير كامل في طريقة تطبيق الذكاء الاصطناعي على التقنيات اليومية وجعل حلول الذكاء الاصطناعي عالية المستوى متاحة لمستخدمين إضافيين.

تحول في النموذج

دراسات البحث من جوجل للبحث وجامعة جونز هوبكنز الآن قد أنشأت نقطة حرجة في تطوير الذكاء الاصطناعي حيث يتساءلون عن أساليب تطوير الذكاء الاصطناعي الحالية ويوجهون الممارسين لنشر عمليات ذكاء اصطناعي أرخص وصديقة للبيئة. 

مجتمع الذكاء الاصطناعي يتحرك نحو مجال أبحاث النماذج المتناهية الصغر هذا البحث لا يلخص أيضاً كل الفهم الحالي للوجهة ولكن يوفر أيضاً مساحة للابتكارات الإبداعية بشأن الكفاءة والأداء والعملية لإنشاء أنظمة الذكاء الاصطناعي.

هذا التطور هو بدلاً من ذلك ليس فقط تحولاً في النموذج في تطوير تكنولوجيا الذكاء الاصطناعي ولكن أيضاً حركة الصناعة نحو الشمولية والوصول في التكنولوجيا. من بين الأشياء التي وجود الذكاء الاصطناعي المتزايد هو، جعل النماذج القابلة للنشر على أجهزة متنوعة يمكن أن تؤدي بكفاءة ودقة هي واحدة من الأشياء القليلة جداً التي يمكن أن تجعل الذكاء الاصطناعي يكون نطاقاً أوسع من التطبيقات بمجرد دخول هذه الأشياء إلى السوق. 

جدة هذه الدراسة تأتي في اللعب بخصائص توسع النموذج التي تجلب في طية المقايضات بين حجم النموذج والأداء مما يجعلها بحثاً رائداً يجب إجراؤه يعد بمستقبل ذكاء اصطناعي أكثر كفاءة وإتاحة.