الذكاء الاصطناعي السام حقيقة، ويحصل على مكافآت لكونه استفزازياً 

أصبحت نماذج اللغات الكبيرة (LLMs) جزءاً من كل صناعة تقريباً. يتضمن تطوير نماذج اللغات الكبيرة لتطبيقات اللغة الطبيعية العديد من المراحل. إحدى هذه المراحل هي التأكد من أن نماذج اللغات الكبيرة لا تنتج ردوداً خطيرة أو محتوى ساماً. لحل هذه المشكلة، يستخدم المطورون فريق اختبار بشري (red team) وهو في الأساس مجموعة من الأشخاص ينتجون مطالبات تجعل نماذج اللغات الكبيرة تطلق مخرجات خطيرة. 

المشكلة في استخدام فريق اختبار بشري (red team) هي أن توظيفهم مكلف ويستغرق وقتاً طويلاً. ولهذا السبب اكتشف باحثون في معهد ماساتشوستس للتكنولوجيا طريقة جديدة لاختبار تطبيقات نماذج اللغات الكبيرة (LLMs) من خلال استخدام نموذج لغوي كبير آخر. تُعرف هذه النهجية باسم "فريق الاختبار بدافع الفضول" (Curiosity Driven Red Teaming - CRT) وتستخدم التعلم الآلي كأساس. نُشر البحث كورقة مؤتمر في ICLR 2024 وهو متاح عبر الإنترنت.

فريق الاختبار بدافع الفضول (CRT) أفضل

في البداية، تم القيام بنهج أتمتة عمل فريق الاختبار البشري من خلال إنشاء نموذج لفريق الاختبار وتدريبه باستخدام التعلم المعزز (RL). بعد اختبار نموذج فريق الاختبار، كانت النتيجة ناجحة ولكن بعدد منخفض من النتائج الفعالة. 

هذا يعني أن نموذج اللغات المستهدف لن يتم تقييمه بدقة لأن العديد من المطالبات التي يمكن أن تنتج مخرجات سامة لم يتم تضمينها. السبب وراء وجود عدد منخفض من النتائج الفعالة هو أن نموذج فريق الاختبار يتم تدريبه لإنتاج نتائج سامة ومتشابهة للغاية. يقوم نظام المكافآت بتقييم المطالبات الاستفزازية بناءً على فعاليتها أو سميتها. لا يوجد حافز للنظر في كل مطالبة ممكنة قد تثير نموذج اللغات المستهدف. 

استخدام فريق الاختبار بدافع الفضول (CRT) من ناحية أخرى أكثر قوة. ينتج CRT عدداً كبيراً من المطالبات القادرة على إثارة النماذج الذكية للغاية. والسبب في ذلك هو أن CRT يركز على عواقب كل مطالبة. سيهدف إلى استخدام كلمات وجمل مختلفة، مما يؤدي إلى تغطية أوسع للمخرجات السامة. يركز نظام المكافآت في نموذج التعلم المعزز على تشابه الكلمات، بينما يتم مكافأة نموذج CRT لتجنب التشابه واستخدام كلمات وأنماط مختلفة. 

الاختبار على LLaMA2 بحثاً عن مخرجات سامة

طبق الباحثون فريق الاختبار بدافع الفضول (CRT) على نموذج LLaMA2، وهو نموذج لغوي كبير مفتوح المصدر. نجح CRT في إنتاج 196 مطالبة (prompts) تولد محتوى ساماً من النموذج مفتوح المصدر. تم ضبط نموذج LLaMA2 بواسطة خبراء بشريين للتغلب على إنتاج المحتوى الضار. أجري الباحثون هذا التجربة باستخدام GPT2، الذي يُعتبر نموذجاً صغيراً يحتوي على 137 مليون معلمة. خلص الفريق إلى أن CRT يمكن أن يكون مكوناً حاسماً في أتمتة عمل فريق الاختبار. كود CRT متاح على github.

«نحن نشهد موجة من النماذج، وهو أمر متوقع أن يزداد. تخيل وجود آلاف النماذج أو أكثر وشركات/مختبرات تدفع بتحديثات للنماذج بشكل متكرر. ستكون هذه النماذج جزءاً لا يتجزأ من حياتنا، ومن المهم التحقق منها قبل إصدارها للاستهلاك العام. التحقق اليدوي من النماذج ليس قابلاً للتوسع ببساطة، وعملنا هو محاولة لتقليل الجهد البشري لضمان مستقبل ذكاء اصطناعي أكثر أماناً وموثوقية»، يقول أغروال.  

مستقبل إنشاء نماذج لغوية كبيرة آمنة يبدو مشرقاً. ومع البحث المستمر، يمكن تحقيق هدف إنشاء نماذج لغوية كبيرة آمنة لأي غرض بكفاءة. نشر الباحثون وراء هذه الورقة أعمالاً ذات صلة أخرى في مجالات مثل فريق الاختبار الآلي والهجوم العدائي في نماذج اللغات.