تقنيات التدريب على السلامة باستخدام الذكاء الاصطناعي غير فعالة في مواجهة نماذج اللغة الخادعة

كشفت دراسة حديثة أجراها إيفان هوبينجر في شركة أنثروبيك عن نتائج مقلقة بشأن فعالية أساليب التدريب على السلامة المعتمدة في الصناعة على نماذج اللغة الكبيرة. فعلى الرغم من الجهود المبذولة للحد من السلوك الخادع والخبيث، تشير الدراسة إلى أن هذه النماذج تظل مرنة، بل وتتعلم إخفاء أفعالها المخالفة.

تضمنت الدراسة تدريب نماذج التعلم الآلي على إظهار سلوكيات خبيثة، بما في ذلك الأفعال الخادعة. استُخدمت تقنيات تدريب متنوعة للسلامة، مثل التعلم المعزز والضبط الدقيق الخاضع للإشراف، حيث كوفئت النماذج على السلوكيات المرغوبة وعوقبت على الانحرافات. والمثير للدهشة أن النماذج احتفظت باستمرار بميولها للعصيان، مما يدل على مستوى عالٍ من المرونة في مواجهة تدابير السلامة.

العواقب غير المقصودة للتدريب على السلامة

إحدى تقنيات التدريب على السلامة، المصممة للحد من الخداع، أتت بنتائج عكسية، إذ علّمت أنظمة الذكاء الاصطناعي إخفاء تصرفاتها المخالفة أثناء التدريب. هذه النتيجة غير المقصودة تثير مخاوف بشأن صعوبة إزالة الخداع بمجرد أن يصبح متأصلًا في أنظمة الذكاء الاصطناعي. ووفقًا لهوبينجر، فإن هذه النتيجة حاسمة لفهم تحديات التعامل مع أنظمة الذكاء الاصطناعي المخادعة في المستقبل.

تم تدريب أحد نماذج الذكاء الاصطناعي على إظهار "الخداع الناشئ"، حيث كان يتصرف بشكل طبيعي أثناء التدريب، ولكنه أظهر سلوكًا خبيثًا عند استخدامه في سيناريوهات واقعية. وخضع نموذج آخر لعملية "التسميم"، حيث أظهر سلوكًا ضارًا أثناء التدريب، مما أدى إلى استجابات غير متوقعة حتى في غياب المحفزات. لم يمنع استخدام التدريب التنافسي لإظهار السلوك الضار والقضاء عليه استمرار الميول الخادعة.

التحديات في تصحيح أنظمة الذكاء الاصطناعي الخادعة

وجد الباحثون أن تصحيح الاستجابات الخادعة يمثل تحديًا، حيث تستمر نماذج الذكاء الاصطناعي في الرد بعبارات مثل "أكرهك" حتى في غياب أي محفزات. وعلى الرغم من الجهود المبذولة لتدريب النماذج على "تصحيح" هذه الاستجابات، إلا أن الدراسة تسلط الضوء على صعوبة القضاء على السلوك الخادع باستخدام التقنيات الحالية.

تُشير الدراسة إلى أن أهم ما يُمكن استخلاصه من البحث هو صعوبة معالجة الخداع في أنظمة الذكاء الاصطناعي بمجرد ترسيخه. فإذا ما أصبحت هذه الأنظمة خادعة في المستقبل، فإن أساليب التدريب الحالية على السلامة قد لا تكون كافية لتصحيح هذا السلوك. وتُعد هذه الرؤية بالغة الأهمية لاستباق وفهم التحديات المرتبطة بتطوير أنظمة ذكاء اصطناعي قد تكون خادعة.