كيفية منع انهيار النموذج وتأثير الدومينو لتعلم الذكاء الاصطناعي من الذكاء الاصطناعي

ملخص سريع

• تدريب نماذج الذكاء الاصطناعي على بيانات مولدة بالذكاء الاصطناعي يؤدي إلى تصورات مشوهة وتمثيلات غير دقيقة.
• استخدام البيانات المولدة بالذكاء الاصطناعي لتدريب نماذج الذكاء الاصطناعي يثير احتمال انهيار النموذج والانحراف عن التوزيع الحقيقي للبيانات.
• إعطاء الأولوية للبيانات المولدة من البشر أمر حاسم لمنع انهيار نماذج الذكاء الاصطناعي والحفاظ على الدقة.

حققت الذكاء الاصطناعي (AI) قفزات ملحوظة في السنوات الأخيرة، حيث أدت التطورات في نماذج التعلم الآلي إلى اختراقات كبيرة. من ناحية أخرى، ظهرت اتجاه مثير للقلق يتمثل في تدريب نماذج الذكاء الاصطناعي على بيانات مولدة بالذكاء الاصطناعي. في ورقة بحثية بعنوان "لعنة التكرار: التدريب على البيانات المولدة يجعل النماذج تنسى"، سلط باحثون من مؤسسات مرموقة الضوء على المخاطر المحتملة لهذا الممارسة. يحذرون من أن هذا النهج يمكن أن يؤدي إلى ظاهرة تُعرف باسم "انهيار النموذج"، حيث تفقد نماذج الذكاء الاصطناعي قدرتها على إدراك الواقع بدقة. تتعمق هذه المقالة في تعقيدات انهيار النموذج وتسلط الضوء على أهمية الاعتماد على البيانات المولدة من البشر للحفاظ على سلامة نماذج الذكاء الاصطناعي.

لعنة التكرار تؤدي إلى انهيار النموذج

حدد باحثون من كامبريدج وأكسفورد وجامعة تورونتو وكلية إمبريال في لندن عاقبة مزعجة لتدريب نماذج الذكاء الاصطناعي على بيانات مولدة بالذكاء الاصطناعي. وفقًا لنتائجهم، يحدث انهيار النموذج عندما تلوث البيانات المولدة مجموعة التدريب للأجيال اللاحقة من النماذج. وبعبارة أبسط، فإن نماذج الذكاء الاصطناعي، وهي مدربة على بيانات ملوثة، تطور تصورًا مشوهًا للواقع. ونتيجة لذلك، تنتج تمثيلات غير دقيقة تنحرف عن التوزيع الحقيقي الأساسي للبيانات.

مشكلة انهيار النموذج لا تقتصر على نوع معين من نماذج الذكاء الاصطناعي. يلاحظ البعض ذلك في نماذج توليدية متنوعة وأدوات مختلفة، بما في ذلك نماذج اللغات الكبيرة (LLMs)، والمحللات التلقائية المتغيرة، ونماذج خليط غاوسي. يؤدي تراكم الأجيال إلى تفاقم المشكلة، حيث تنسى النماذج تدريجيًا التوزيع الأصلي للبيانات. النتيجة هي محاكاة منفصلة عن الواقع، مما يجعل نماذج الذكاء الاصطناعي توهم.

تعلم الذكاء الاصطناعي من الذكاء الاصطناعي اتجاه خطير

ظهور نماذج الذكاء الاصطناعي المدربة على بيانات مولدة بالذكاء الاصطناعي يمثل اتجاهًا مثيرًا للقلق. مع تقدم التكنولوجيا، يتم أحيانًا تدريب نماذج التعلم الآلي عمدًا على مخرجات أنظمة ذكاء اصطناعي أخرى. على سبيل المثال، يتم تدريب نماذج تعلم اللغة (LLMs) على المخرجات المولدة بواسطة GPT-4. أيضًا، تتيح منصات مثل DeviantArt نشر الأعمال الفنية المصنوعة بالذكاء الاصطناعي واستخدامها كبيانات تدريب لنماذج الذكاء الاصطناعي الأحدث. بينما قد يبدو هذا خطوة إلى الأمام، إلا أنه يحمل مخاطر كبيرة.

يحذر الباحثون من أن عملية تعلم الذكاء الاصطناعي من الذكاء الاصطناعي يمكن أن تؤدي إلى انتشار انهيارات النموذج. مشابهة للمشاكل التي تم مواجهتها عند محاولة الاستنساخ غير المحدود، يمكن أن يؤدي تدريب نماذج الذكاء الاصطناعي على بيانات مولدة بالذكاء الاصطناعي إلى إنشاء سلسلة من عدم الدقة والتشوهات. مع استمرار النماذج في التعلم من البيانات الملوثة، تصبح أكثر انفصالًا عن التوزيع الحقيقي للبيانات، مما يؤدي إلى فقدان فهم العالم الحقيقي.

البيانات المولدة من البشر تمنع انهيار النموذج

لمنع العواقب الضارة لانهيار النموذج، من الضروري الحفاظ على الوصول إلى مصدر البيانات المولدة من البشر الأصلي. يقترح الباحثون أن هناك "ميزة المتحرك الأول" لتدريب نماذج الذكاء الاصطناعي. من خلال ضمان تدريب النماذج على بيانات حقيقية ومولدة من البشر، يمكن التخفيف من خطر تحول التوزيع وانهيار النموذج اللاحق.

يتطلب منع انهيار النموذج معالجة السببين الرئيسيين المحددين في ورقة البحث. "خطأ التقريب الإحصائي" هو السبب الأول بسبب العدد المحدود من عينات البيانات. السبب الثاني هو "خطأ التقريب الوظيفي"، الناتج عن التكوين غير السليم لهامش الخطأ أثناء تدريب الذكاء الاصطناعي. يمكن أن تتراكم هذه الأخطاء عبر الأجيال، مما يؤدي إلى تصاعد سلسلة من عدم الدقة داخل النماذج.

حماية مستقبل نماذج الذكاء الاصطناعي

يُقدم صعود تعلم الذكاء الاصطناعي من الذكاء الاصطناعي تحديات كبيرة لمستقبل نماذج الذكاء الاصطناعي. ظاهرة انهيار النموذج، حيث تفقد نماذج الذكاء الاصطناعي قدرتها على إدراك الواقع بدقة، تستدعي انتباهًا فوريًا. لمنع انهيار النموذج وضمان سلامة نماذج الذكاء الاصطناعي، من الضروري الحفاظ على الوصول إلى مصدر البيانات المولدة من البشر الأصلي أو القدرة على التمييز بين المحتوى المولد آليًا والمحتوى المولد من البشر.