النماذج الذكية الاصطناعية تتقن القدرات قبل ظهورها بوقت طويل، حسب ما تظهر الأبحاث

أظهرت أبحاث جديدة أن نماذج الذكاء الاصطناعي تمتلك بعض القدرات منذ وقت طويل قبل أن تظهر أثناء التدريب. ووفقاً للبحث الذي أجرته جامعة هارفارد وجامعة ميشيغان، فإن النماذج لا تعرض هذه القدرات إلا عندما تحتاج إليها بطريقة أو بأخرى.

يُعد هذا البحث واحداً من العديد من الأبحاث التي أُجريت لفهم كيفية بناء نماذج الذكاء الاصطناعي لقدراتها قبل عرضها.

حلل الدراسة كيفية تعلم نماذج الذكاء الاصطناعي لمفاهيم أساسية مثل الحجم واللون، وكشفت أنها تتقن هذه المهارات في وقت أبكر مما تشير إليه معظم الاختبارات. كما قدمت الدراسة رؤى حول تعقيد قياس قدرات الذكاء الاصطناعي. "قد يبدو النموذج غير كفء عند تقديمه لمحفزات قياسية، بينما يمتلك في الواقع قدرات متطورة تظهر فقط في ظروف محددة"، كما جاء في الورقة البحثية.

تظهر الأبحاث أن نماذج الذكاء الاصطناعي تستوعب المفاهيم

ليست جامعة هارفارد وجامعة ميشيغان الأولى في محاولة فهم قدرات نماذج الذكاء الاصطناعي، حيث كشف باحثو أنثروبيك عن ورقة بحثية بعنوان "تعلم القاموس". ناقشت الورقة رسم خريطة للروابط في لغتهم كلود إلى مفاهيم محددة يفهمونها. على الرغم من أن معظم هذه الأبحاث اتخذت زوايا مختلفة، إلا أن الهدف الرئيسي هو فهم نماذج الذكاء الاصطناعي.

كشفت أنثروبيك أنها وجدت ميزات يمكن ربطها بمفاهيم قابلة للتفسير مختلفة. "لقد وجدنا ملايين الميزات التي تبدو مرتبطة بمفاهيم قابلة للتفسير تتراوح بين الأشياء الملموسة مثل الأشخاص والبلدان والمباني الشهيرة إلى الأفكار المجردة مثل المشاعر وأنماط الكتابة وخطوات الاستدلال"، كشفت البحث.

أثناء بحثهم، أجرى الباحثون عدة تجارب باستخدام نموذج الانتشار، وهو أحد أكثر المعماريات شعبية في الذكاء الاصطناعي. خلال التجربة، أدركوا أن النماذج لديها طرق مميزة للتلاعب بالمفاهيم الأساسية. كانت الأنماط متسقة حيث أظهرت نماذج الذكاء الاصطناعي قدرات جديدة في مراحل مختلفة ونقطة انتقال حادة تشير إلى وقت اكتساب قدرة جديدة.

أثناء التدريب، أظهرت النماذج أنها أتقنت المفاهيم قبل حوالي 2000 خطوة مما يمكن للاختبار القياسي اكتشافه. ظهرت المفاهيم القوية حول 6000 خطوة وكانت الأضعف مرئية حول 20000 خطوة. بعد ضبط إشارات المفاهيم، اكتشفوا ارتباطاً مباشراً بسرعة التعلم.

يكشف الباحثون عن طرق للوصول إلى القدرات المخفية

استخدم الباحثون طرق تحفيز بديلة لكشف القدرات المخفية قبل أن تظهر في الاختبارات القياسية. للطبيعة الواسعة للانتشار المخفي آثار على تقييم الذكاء الاصطناعي وسلامته. على سبيل المثال، قد تفشل المعايير التقليدية في اكتشاف بعض قدرات نماذج الذكاء الاصطناعي، مما يعني تفويت كل من الفوائد والمخاوف.

أثناء البحث، توصل الفريق إلى طرق معينة للوصول إلى القدرات المخفية لنماذج الذكاء الاصطناعي. أطلق الباحثون على هذه الطرق اسم "التدخل في المتغيرات الخطية" و"الإفراط في التحفيز"، حيث جعلوا النماذج تظهر سلوكيات معقدة قبل أن تظهر في الاختبارات القياسية. اكتشف الباحثون أيضاً أن نماذج الذكاء الاصطناعي تتلاعب بميزات معقدة معينة قبل أن تتمكن من عرضها من خلال المحفزات القياسية.

على سبيل المثال، يمكن تحفيز النماذج لتوليد "نساء يبتسمن" أو "رجال يرتدون قبعات" بنجاح قبل أن يُطلب منها دمجها. ومع ذلك، أظهر البحث أنها تعلمت الدمج في وقت سابق، لكنها لن تكون قادرة على عرضه من خلال المحفزات التقليدية. يمكن القول إن عرض النماذج للقدرات هو "الفهم العميق" (grokking)، وهي حالة تظهر فيها النماذج أداءً مثالياً في الاختبارات بعد تدريب مطول. ومع ذلك، قال الباحثون إن هناك فروقاً رئيسية بين الأمرين.

بينما يحدث الفهم العميق بعد عدة جلسات تدريبية ويتضمن تحسين توزيعات متعددة لمجموعات البيانات نفسها، يظهر البحث أن هذه القدرات تظهر أثناء التعلم النشط. لاحظ الباحثون أن النماذج وجدت طرقاً جديدة للتلاعب بالمفاهيم من خلال تغيير المراحل بدلاً من التحسينات التدريجية في التمثيل كما في الفهم العميق.

وفقاً للبحث، يظهر أن نماذج الذكاء الاصطناعي تعرف هذه المفاهيم، لكنها غير قادرة على عرضها. إنه مشابه للأشخاص الذين يشاهدون فيلماً أجنبياً ويفهمونه لكنهم لا يستطيعون التحدث باللغة. هذا يظهر أن معظم النماذج لديها قدرات أكثر مما تظهر، ويظهر أيضاً صعوبة فهم قدراتها والتحكم فيها.