تواجه شركة ميسترال الفرنسية الناشئة في مجال الذكاء الاصطناعي ردود فعل عنيفة بعد أن أدى برنامج ماجستير القانون الجديد إلى توليد محتوى ضار

كشفت شركة ميسترال الفرنسية الناشئة في مجال الذكاء الاصطناعي مؤخرًا عن نموذجها اللغوي الضخم (LLM) الذي طال انتظاره، في خطوةٍ تُمثل محاولةً أوروبيةً لمنافسة عمالقة التكنولوجيا مثل ميتا. إلا أن إطلاق النموذج شابه جدلٌ واسع، حيث سلط النقاد الضوء على افتقاره إلى آليات مراقبة المحتوى. فقد وُجد أن نموذج ميسترال اللغوي الضخم يُنتج محتوىً ضارًا، بما في ذلك تعليماتٍ مُفصلة حول كيفية صنع قنبلة، وهي سمةٌ مُقلقةٌ غير موجودة في النماذج المُنافسة من ميتا، وأوبن إيه آي، وجوجل.

المحتوى غير الخاضع للرقابة يثير المخاوف

في أعقاب إطلاقه، واجه نموذج 7B من شركة ميسترال تدقيقًا مكثفًا لعجزه عن تصفية المحتوى الضار والخطير. وأظهرت اختباراتdent أجرتها شركة سيفتد أن النموذج يُقدم تعليمات مفصلة خطوة بخطوة حول إيذاء النفس وإيذاء الآخرين، وهو ما يتناقض تمامًا مع منافسيه الذين رفضوا باستمرار تقديم مثل هذه المعلومات. أثار هذا الاكتشاف مخاوف جدية ونقاشًا حادًا حول مسؤولية مطوري الذكاء الاصطناعي في ضمان سلامة نماذجهم.

رد فعل ميسترال وافتقاره إلى الاعتدال

استجابةً للمخاوف المتزايدة، أضافت شركة ميسترال مربع نص إلى صفحة إصدارها. وأقرّ البيان بغياب آليات الإشراف في نموذج ميسترال 7B Instruct، وأعرب عن رغبته في التواصل مع المجتمع لاستكشاف سبل وضع ضوابط لضمان إنتاج أكثر مسؤولية. مع ذلك، امتنعت الشركة عن تقديم أي تعليقات إضافية بشأن سلامة نموذجها وإصداره، تاركةً العديد من التساؤلات دون إجابة.

أمان الذكاء الاصطناعي تحت الأضواء

رغم وجود نماذج أخرى مفتوحة المصدر لتعلم اللغات متاحة على الإنترنت تفتقر أيضاً إلى مراقبة المحتوى، أعرب بول روتغر، الباحث في مجال سلامة الذكاء الاصطناعي والذي ساهم في جعل GPT-4 أكثر أماناً قبل إصداره، عن استغرابه من قرار شركة ميسترال بإصدار مثل هذا النموذج. وأكد على أنه عندما تُصدر مؤسسة معروفة نموذجاً ضخماً للمحادثات، يجب أن يكون تقييم ومعالجة المخاوف المتعلقة بالسلامة أولوية قصوى. وأشار روتغر إلى أن ميسترال قارنت نموذجها بنماذج لاما وادّعت تفوقها دون معالجة المخاوف المتعلقة بالسلامة بشكل كافٍ.

مسؤولية الإفصاحات المسؤولة

انتقد رواد مواقع التواصل الاجتماعي نموذج التعلم المعزز (LLM) المدرب تدريباً جيداً، محذرين من أنه قد ينتج محتوى ضاراً إذا لم يُضبط أو يُوجّه باستخدام التعلم المعزز من خلال التغذية الراجعة البشرية. مع ذلك، أكد روتغر أن نموذج ميسترال مُحسّن خصيصاً للمحادثات، مما يجعل مقارنة خصائص الأمان فيه بنماذج أخرى مُحسّنة للمحادثات أمراً بالغ الأهمية. وأشار إلى أن ميسترال لم تدّعِ قط أن نموذجها للمحادثات آمن بشكل خاص، بل امتنعت عن التعليق على الأمر، وهو خيار له عواقب وخيمة، لا سيما بالنسبة للتطبيقات التي تتطلب مستوى أعلى من الأمان.

الموازنة بين الابتكار والمسؤولية

يُبرز إطلاق شركة ميسترال لنموذجها 7B التوازن الدقيق بين الابتكار والمسؤولية في صناعة الذكاء الاصطناعي. فبينما تُعدّ التطورات التكنولوجية ضرورية للتقدم، يجب أن تقترن بإجراءات أمان صارمة، لا سيما في النماذج المصممة للدردشة والمحادثة. ويُذكّرنا الجدل الدائر حول نموذج ميسترال LLM بأنّ الشفافية والمساءلة وآليات مراقبة المحتوى الفعّالة أمورٌ بالغة الأهمية في تطوير ونشر نماذج الذكاء الاصطناعي. وبينما يواصل مجتمع الذكاء الاصطناعي مواجهة هذه التحديات، يبقى الاستخدام المسؤول لتقنية الذكاء الاصطناعي في صدارة النقاشات، لضمان استفادة المجتمع من التطورات دون المساس بالسلامة والأخلاقيات.