إليك سبب كون نماذج اللغات الكبيرة (LLMs) قد تشكل خطراً كبيراً على العلم

تُعد نماذج اللغات الكبيرة (LLMs) قفزة كبيرة في قطاع الذكاء الاصطناعي. ومع ذلك، فإن أحد المخاوف الرئيسية بشأن نماذج اللغات الكبيرة (LLMs) هو قدرتها على تقديم معلومات غير دقيقة على أنها حقائق، مما يشكل مجموعة من المخاطر.

نماذج اللغات الكبيرة (LLMs) والهلوسات

يمكن لنماذج اللغات الكبيرة (LLMs) أحياناً إنتاج "هلوسات"، وهي عبارات كاذبة أو مضللة لا تستند إلى الواقع. عادةً ما ينبع هذا القصور من البيانات التي تم تدريب النماذج عليها. 

يتم تدريب نماذج الذكاء الاصطناعي على كميات هائلة من البيانات المستخرجة من الإنترنت، والتي تحتوي على معلومات دقيقة وغير دقيقة. ونتيجة لذلك، تتعلم نماذج اللغات الكبيرة (LLMs) توليد نصوص تتوافق مع البيانات التي تم تدريبها عليها، حتى لو لم تكن تلك النصوص دقيقة من الناحية الواقعية.

على سبيل المثال، قد يقوم نموذج لغات كبيرة (LLM) يطلب منه كتابة ملخص لورقة علمية بتوليد ملخص غير دقيق من الناحية الواقعية لأنه تعلم ربط كلمات وعبارات معينة بمفاهيم معينة، حتى لو لم تكن تلك الروابط دقيقة.

مع وجود هذا العيب، يصبح استخدام نماذج اللغات الكبيرة (LLMs) مصدر قلق، خاصة في مجال العلم، حيث تهم الحقائق. 

"طريقة استخدام نماذج اللغات الكبيرة (LLMs) مهمة. في المجتمع العلمي، من الضروري أن نثق في المعلومات الواقعية، لذا من المهم استخدام نماذج اللغات الكبيرة (LLMs) بمسؤولية. إذا تم استخدام نماذج اللغات الكبيرة (LLMs) لتوليد ونشر المقالات العلمية، فقد تنتج عنها أضرار جسيمة"، تقول البروفيسورة ساندرا واشر، من معهد أكسفورد للإنترنت.

أفضل نهج لاستخدام نماذج اللغات الكبيرة (LLMs)

في ورقة بحثية نشرها البروفيسور واشر، وبرينت ميتلشتادت، وكريس راسل من أكسفورد، جادلوا بضرورة وضع توقعات واضحة حول ما يمكن لنماذج الذكاء الاصطناعي المساهمة فيه بشكل مسؤول ومفيد لحماية العلم والتعليم. 

لاحظ الباحثون أنه ينبغي استخدام نماذج اللغات الكبيرة (LLMs) بشكل أفضل كـ "مترجمين في وضع الصفر" (zero-shot translators)، مما يعني أن على المستخدمين تقديم معلومات دقيقة فقط للنماذج وطلب إعادة صياغتها إلى النصوص المطلوبة. "بالنسبة للمهام التي تهم فيها الحقيقة، نشجع المستخدمين على كتابة أوامر ترجمة تتضمن معلومات موثقة وواقعية"، كما ورد في الورقة البحثية.