نماذج الذكاء الاصطناعي تُنتج نثراً غير مفهوم عند تدريبها على بيانات مولدة بالذكاء الاصطناعي

نماذج اللغات الكبيرة (LLMs) المدربة على الإصدارات السابقة من المواد المولدة بالذكاء الاصطناعي تنتج مخرجات تفتقر إلى الجوهر والدقة، وجدت دراسة جديدة. وتقدم النتائج تحدياً جديداً لمطوري الذكاء الاصطناعي، الذين يعتمدون على مجموعات بيانات محدودة من صنع البشر للمحتوى.

اقرأ أيضًا: التزييف العميق بالذكاء الاصطناعي يجعل من الصعب على السلطات الأمريكية حماية الأطفال - تقرير

حاول باحثو الذكاء الاصطناعي من جامعة كامبريدج وجامعة أكسفورد في المملكة المتحدة كتابة نصوص تعتمد على مجموعة بيانات تتكون فقط من محتوى مولد بالذكاء الاصطناعي. لم تكن النتيجة مثالية، حيث أنتجت استجابات غير مفهومة.

الذكاء الاصطناعي لا يزال بحاجة إلى البشر لفهم المعنى

قال أحد مؤلفي الورقة البحثية، زهاك شومايلوف من جامعة كامبريدج ، إنه هناك حاجة إلى ضبط الجودة في البيانات التي تغذي نماذج اللغات الكبيرة (LLMs)، وهي التقنية الكامنة وراء روبوتات الدردشة بالذكاء الاصطناعي التوليدي مثل "ChatGPT" و"Gemini" من جوجل. وأضاف شومايلوف:

«الرسالة هي أننا يجب أن نكون حذرين جداً مما ينتهي به المطاف في بيانات التدريب لدينا. [وإلا] فإن الأمور ستفشل دائماً وبشكل مثبت».

وأوضح شومايلوف أن الظاهرة تُعرف بـ«انهيار النموذج» (Model Collapse). وقد ثبت أنها تؤثر على جميع أنواع نماذج الذكاء الاصطناعي، بما في تلك المتخصصة في توليد الصور باستخدام نصوص.

ووفقاً للدراسة، أدت استخدام نصوص متكررة مع بيانات مولدة بالذكاء الاصطناعي على نموذج واحد إلى إنتاج نثر غير مفهوم. على سبيل المثال، وجد الباحثون أن نظاماً واحداً اختُبر بنصوص حول أبراج كنائس العصور الوسطى في المملكة المتحدة أنتج قائمة متكررة من الأرانب البرية بعد تسعة أجيال فقط.

وفي تعليقه على المخرجات، شبه هاني فيريد، عالم الحاسوب من جامعة كاليفورنيا، انهيار البيانات بالتحديات المتأصلة في التزاوج الداخلي بين الحيوانات.

وقال فيريد: «إذا تزاوج نوع من الكائنات مع نسله ولم يُدخل تنوعاً في مجموعته الجينية، فقد يؤدي ذلك إلى انهيار النوع».

وعندما أضاف الباحثون بيانات مولدة من البشر إلى بيانات الذكاء الاصطناعي، حدث الانهيار بشكل أبطأ مقارنةً بتشغيل النموذج على محتوى مولد بالكامل بواسطة الذكاء الاصطناعي.

الباحثون: الذكاء الاصطناعي قد يفاقم التحيزات ضد الأقليات

تعمل نماذج اللغة من خلال بناء روابط بين الرموز — الكلمات أو أجزاء الكلمات — في مساحات شاسعة من النصوص، غالباً ما يتم جمعها من الإنترنت. وتولّد النصوص من خلال إخراج الكلمة التالية الأكثر احتمالاً إحصائياً، بناءً على هذه الأنماط المتعلمة.

اقرأ أيضًا: دبّ بوي المحشو المدعوم بالذكاء الاصطناعي يقرأ قصص ما قبل النوم للأطفال

أظهرت الدراسة، التي نُشرت في مجلة نيتشر في 24 يوليو، أن المعلومات المذكورة بضع مرات فقط في مجموعات البيانات من غير المرجح أن تتكرر. ويخشى الباحثون من أن يؤثر ذلك سلباً على الأقليات المهمشة بالفعل.

لتجنب انهيار النموذج في حالات الاستخدام الواقعية، اقترحت الدراسة وضع علامة مائية للمحتوى الذي يولّده الذكاء الاصطناعي والمحتوى الذي يولّده البشر. لكن ذلك قد يكون أيضاً مشكلة بسبب نقص التنسيق بين شركات الذكاء الاصطناعي المتنافسة، وفقاً للدراسة.

تأتي نتائج الدراسة في وقت تزداد فيه المناقشات حول ما إذا كان الذكاء الاصطناعي سيؤدي إلى الإقصاء التام للبشر من إنشاء المحتوى، بما في ذلك كتابة الروايات والمقالات الصحفية.

عنوان الدراسة هو «انهيار نماذج الذكاء الاصطناعي عند تدريبها على بيانات مُولَّدة بشكل تكراري»، وتضع نتائج هذه المناقشة حداً لها — فالناس لم يتم إزالتهم من المعادلة بعد.