يدفع العلماء نحو إفصاح أكثر صرامة عن الذكاء الاصطناعي وسط انفجار "المحتوى الرديء" في الأوراق البحثية

يواجه العلماء العاملون داخل عالم أبحاث الذكاء الاصطناعي مشكلة مصداقية لا يمكنهم تجاهلها بعد الآن.

تفاعلت المؤتمرات الكبرى التي تركز على أبحاث الذكاء الاصطناعي بعد أن أصبحت أنظمة المراجعة مليئة بالعروض الضعيفة.

لاحظ المنظمون ارتفاعًا حادًا في الأوراق والمراجعات الأقران المنتجة بقليل من الجهد البشري. القلق ليس حول الأسلوب. القلق هو الدقة. الأخطاء تتسلل إلى أماكن كانت الدقة فيها مهمة في السابق.

المؤتمرات تشدد العقوبات مع غمر الأوراق منخفضة الجودة للمراجعين

حذر الباحثون مبكراً من أن الاستخدام غير المنضبط لأدوات الكتابة الآلية قد يلحق الضرر بالمجال. وقالت إنوليوا ديبورا راجي، باحثة في الذكاء الاصطناعي بجامعة كاليفورنيا، بيركلي، إن الوضع تحول إلى فوضى بسرعة.

وقالت: "هناك قدر من السخرية في حقيقة وجود هذا الحماس الكبير لإشراك الذكاء الاصطناعي في تشكيل مجالات أخرى، بينما في الواقع، مرّ مجالنا بتجربة فوضوية بسبب الاستخدام الواسع النطاق للذكاء الاصطناعي".

تظهر البيانات الصلبة مدى اتساع المشكلة. وجدت دراسة أجرتها جامعة ستانفورد ونُشرت في أغسطس أن ما يصل إلى 22 في المئة من أوراق علوم الكمبيوتر أظهرت علامات على استخدام نماذج لغوية كبيرة.

قامت بانغرام، وهي شركة ناشئة لتحليل النصوص، بمراجعة العروض والمراجعات الأقران في المؤتمر الدولي للتعبيرات التعليمية في عام 2025. قدرت أن 21 في المئة من المراجعات تم إنشاؤها بالكامل بواسطة الذكاء الاصطناعي، بينما استخدم أكثر من نصفها ذلك لمهام مثل التحرير. كما وجد بانغرام أن 9 في المئة من الأوراق المقدمة كان أكثر من نصف محتواها مُنتجًا بهذه الطريقة.

وصلت القضية إلى نقطة التحول في نوفمبر. أشار المراجعون في مؤتمر ICLR إلى ورقة بحثية يشتبه في أنها مولدة بالذكاء الاصطناعي، والتي لا تزال تحتل المرتبة 17 في المئة بناءً على درجات المراجعين. وفي يناير، أفادت شركة الكشف عن التزييف GPTZero بوجود أكثر من 100 خطأ آلي عبر 50 ورقة مقدمة في مؤتمر NeurIPS، الذي يُعتبر على نطاق واسع المنصة العليا للأبحاث المتقدمة في هذا المجال.

مع تزايد المخاوف، حدّث ICLR قواعد استخدامه قبل المؤتمر. تواجه الأوراق التي تفشل في الإفصاح عن الاستخدام المكثف لـ النماذج اللغوية الآن الرفض. قد يواجه المراجعون الذين يقدمون تقييمات منخفضة الجودة تم إنشاؤها بأتمتة عقوبات، بما في ذلك رفض أوراقهم الخاصة.

وقال هاني فاريد، أستاذ علوم الكمبيوتر في جامعة كاليفورنيا، بيركلي: "إذا كنت تنشر أوراقاً بحثية ذات جودة منخفضة جداً وتحتوي على أخطاء، فلماذا يجب على المجتمع أن يثق بنا كعلماء؟".

تتصاعد أعداد الأوراق البحثية بينما تواجه أدوات الكشف صعوبة في مواكبة ذلك

ووفقاً للتقرير، تلقى مؤتمر NeurIPS 21,575 ورقة بحثية في عام 2025، مقارنة بـ 17,491 في عام 2024 و9,467 في عام 2020. قدم مؤلف واحد أكثر من 100 ورقة في عام واحد فقط، وهو عدد يتجاوز بكثير ما هو معتاد بالنسبة لباحث واحد.

وقال توماس ج. ديتريش، الأستاذ الجامعي المتقاعد في جامعة ولاية أوريغون ورئيس قسم علوم الكمبيوتر في أرXiv، إن عمليات الرفع إلى المستودع المفتوح أيضاً ارتفعت بشكل حاد.

ومع ذلك، يقول الباحثون إن السبب ليس بسيطاً. يجادل البعض بأن الزيادة ناتجة عن دخول المزيد من الأشخاص إلى المجال. وآخرون يقولون إن الاستخدام المكثف لأدوات الذكاء الاصطناعي يلعب دوراً رئيسياً. ولا يزال الكشف صعباً لأنه لا يوجد معيار مشترك لتحديد النصوص المؤتمتة. وقال ديتريش إن علامات التحذير الشائعة تشمل المراجع المخترقة والأرقام غير الصحيحة. ويمكن حظر المؤلفين الذين يثبت تورطهم في ذلك مؤقتاً من أرXiv.

كما أن الضغوط التجارية تلعب دوراً خلف الكواليس. فقد دفعت العروض التوضيحية ذات الصيت الكبير، والرواتب المتصاعدة، والمنافسة الشرسة أجزاء من المجال إلى التركيز على الكمية. وقالت راجي إن لحظات الهيجان تجذب أشخاصاً من خارج المجال يبحثون عن نتائج سريعة.

وفي الوقت نفسه، يقول الباحثون إن بعض الاستخدامات مشروعة. وأشار ديتريش إلى أن جودة الكتابة في الأوراق البحثية الصادرة من الصين قد تحسنت، على الأرجح لأن أدوات اللغة تساعد في إعادة صياغة النص الإنجليزي بوضوح أكبر.

تمتد القضية الآن إلى ما وراء النشر. تروج شركات مثل جوجل، أنثروبيك، وأوبن إيه آي لنماذجها كشركاء بحثيين يمكنهم تسريع الاكتشاف في مجالات مثل علوم الحياة. تم تدريب هذه الأنظمة على النصوص الأكاديمية.

وحذر فاريد من أنه إذا كانت بيانات التدريب تتضمن الكثير من المواد الاصطناعية، فقد تتدهور أداء النماذج. وتظهر الدراسات السابقة أن نماذج اللغة الكبيرة يمكن أن تنهار وتنتج نصوصاً غير مفهومة عند تغذيتها ببيانات آلية غير خاضعة للرقابة.

وقال فاريد إن الشركات التي تقوم بجمع بيانات البحث لديها حوافز قوية لمعرفة أي الأوراق مكتوبة بشرياً. وقال كيفن ويل، رئيس قسم العلوم في OpenAI، إن الأدوات لا تزال تتطلب تدقيقاً بشرياً. وقال: "يمكن أن تكون مسرّعاً هائلاً. لكن عليك التحقق منها. فهي لا تعفيك من الالتزام بالدقة".