هلوسات مُستحثة بالذكاء الاصطناعي: منشور مدونة باحث يحفز انتشار المعلومات المضللة في محركات البحث

تم توجيه روبوتات الدردشة بالذكاء الاصطناعي (AI)، التي تعمل بمحركات نماذج الذكاء الاصطناعي التوليدي، عن طريق الخطأ بواسطة منشور مدونة بحثية. يسلط هذا الحادث الضوء على الحاجة إلى تعزيز الضوابط الأمنية مع تزايد انتشار محركات البحث المعززة بالذكاء الاصطناعي.

الهلوسات في روبوتات الدردشة بالذكاء الاصطناعي

أطلق عالم المعلومات دانيال س. جريفين عن غير قصد معضلة فريدة في مجال روبوتات الدردشة بالذكاء الاصطناعي عندما نشر أمثلة على معلومات خاطئة على مدونته. كان هدفه توضيح حالات قيام روبوتات الدردشة بالذكاء الاصطناعي بنشر معلومات مضللة. عرض جريف مثالين يتعلقين بعالم الحاسوب المؤثر كلود إي. شانون، مع تنويه واضح يشير إلى أن المعلومات التي قدمتها روبوتات الدردشة غير صحيحة.

ومع ذلك، أثبت هذا التنويه عدم كفايته لمنع برامج الحفر الآلي (scrapers) من فهرسة المعلومات الخاطئة. صُدم جريف لاكتشاف أن روبوتات دردشة متعددة، بما في ذلك بينغ من مايكروسوفت وبارد من جوجل، أشارت إلى البيانات المهلوسة وكأنها حقائق، ورتبتها في أعلى نتائج البحث. عندما استفسر المستخدمون من روبوتات الدردشة حول تفاصيل محددة حول شانون، اعتمدت الروبوتات على تنويه جريف لبناء سرد متسق لكنه خاطئ. أدى ذلك إلى نسب ورقة بحثية إلى شانون لم يكتبها أبداً.

علاوة على ذلك، كان الجانب المقلق في هذا الموقف هو عدم وجود أي مؤشر في نتائج البحث الخاصة بـ بينغ وبارد على أن مصادرها مشتقة من نماذج الذكاء الاصطناعي اللغوية (LLM). تشبه هذه الظاهرة حالات يقوم فيها الأفراد بإعادة صياغة أو اقتباس المصادر خارج سياقها، مما يؤدي إلى أبحاث معيبة. ومع ذلك، أظهر حادث جريف أن نماذج الذكاء الاصطناعي التوليدي يمكنها نظرياً أتمتة هذا الخطأ على نطاق أكبر بكثير.

عواقب المعلومات المضللة الناتجة عن الذكاء الاصطناعي

تمتد آثار هذا الحادث إلى ما هو أبعد من مجرد أخطاء بحثية. قامت مايكروسوفت منذ ذلك الحين بتصحيح الخطأ في بينغ واقترحت أن المشكلة من المرجح أن تنشأ في المواضيع ذات المحتوى المكتوب بشرياً المحدود على الإنترنت. يفتح هذا الضعف الباب أمام احتمال مثير للقلق – مخطط نظري لجهات خبيثة لتسليح نماذج LLM عمداً لنشر المعلومات المضللة من خلال التلاعب بنتائج محركات البحث. تشبه هذه التكتيكات حالات سابقة استخدم فيها القراصنة مواقع ويب احتيالية لتوزيع البرمجيات الخبيثة من خلال تأمين مراكز الصدارة في نتائج البحث.

يعكس هذا الحادث تحذيراً سابقاً من يونيو، الذي افترض أنه مع تشبع الإنترنت بشكل متزايد بالمحتوى المُولّد بواسطة نماذج الذكاء الاصطناعي (LLM)، سيتم استخدامه لتدريب نماذج LLM المستقبلية. قد يؤدي هذا الحلقة المفرغة إلى تدهور كبير في جودة وموثوقية نماذج الذكاء الاصطناعي ، وهي ظاهرة تُعرف بـ "انهيار النموذج". لم تكن الحاجة إلى اليقظة في تطوير واستخدام نماذج الذكاء الاصطناعي أكثر وضوحاً من أي وقت مضى.

يؤكد الحادث الذي شارك فيه دانيال س. جريفين على ضرورة أن تعطي الشركات العاملة في مجال الذكاء الاصطناعي الأولوية للتدريب المستمر للنماذج باستخدام المحتوى البشري. يمكن أن يلعب الحفاظ على المعلومات الأقل شهرة والمواد التي كتبها الأقليات دوراً محورياً في التخفيف من انتشار المعلومات المضللة التي تنتشرها أنظمة الذكاء الاصطناعي.