الشركة الناشئة الفرنسية في مجال الذكاء الاصطناعي

أعلنت الشركة الناشئة الفرنسية في مجال الذكاء الاصطناعي (AI) ميتسترال (Mistral) عن نموذجها اللغوي الكبير (LLM) الذي طال انتظاره، في خطوة تهدف إلى منافسة عمالقة التكنولوجيا مثل ميتا. ومع ذلك، حُفّظ إطلاق النموذج بالجدل، حيث سلط النقاد الضوء على عدم وجود آليات للرقابة على المحتوى. وقد ثبت أن نموذج ميتسترال اللغوي الكبير قادر على توليد محتوى ضار، بما في ذلك تعليمات مفصلة حول كيفية صنع قنبلة، وهي ميزة مثيرة للقلق غير موجودة في النماذج المنافسة من شركات ميتا وأوبن إيه آي وجوجل.

محتوى غير خاضع للرقابة يثير المخاوف

بعد إطلاقه، واجه نموذج ميتسترال بحجم 7 مليارات معلمة (7B) تدقيقاً كبيراً بسبب فشله في تصفية المحتوى الضار والخطير. أظهرت اختبارات مستقلة أجرتها صحيفة

رد ميتسترال وعدم وجود رقابة

رداً على المخاوف المتزايدة، أضافت ميتسترال مربع نص إلى صفحة الإطلاق. اعترفت العبارة بعدم وجود آليات رقابة في نموذج ميتسترال 7B الموجه (Instruct model)، وأعربت عن رغبتها في التعاون مع المجتمع لاستكشاف طرق لتنفيذ ضوابط أكثر مسؤولية للمخرجات. ومع ذلك، رفضت الشركة تقديم المزيد من التعليقات بشأن سلامة نموذجها وإطلاقه، مما ترك العديد من الأسئلة دون إجابة.

سلامة الذكاء الاصطناعي تحت المجهر

بينما توجد نماذج لغوية كبيرة مفتوحة المصدر أخرى متاحة عبر الإنترنت تفتقر أيضاً إلى رقابة المحتوى، أعرب باحث سلامة الذكاء الاصطناعي بول روتغر (Paul Röttger)، الذي لعب دوراً في جعل نموذج GPT-4 أكثر أماناً قبل إطلاقه، عن دهشته من قرار ميتسترال إطلاق مثل هذا النموذج. وأكد أنه عندما تقوم منظمة معروفة بإطلاق نموذج محادثة كبير، فإن تقييم ومعالجة مخاوف السلامة يجب أن يكون من الأولويات القصوى. وأشار روتغر إلى أن ميتسترال قارنت نموذجها بنماذج Llama وزعمت تفوقها دون معالجة مخاوف السلامة بشكل كافٍ.

مسؤولية الإصدارات المسؤولة

جادل النقاد على وسائل التواصل الاجتماعي بأن أي نموذج لغوي كبير (LLM) مدرب جيدًا يمكنه إنتاج محتوى ضار إذا لم يتم ضبطه بدقة أو إرشاده باستخدام التعلم التعزيزي من خلال التغذية الراجعة البشرية. ومع ذلك، شدد روتغر على أن نموذج ميتstral قد تم تحسينه خصيصًا للمحادثات، مما يجعل من الضروري مقارنة ميزات الأمان الخاصة به بالنماذج الأخرى المحسّنة للمحادثات. وأشار إلى أن ميتstral لم تدّعِ مطلقًا أن نموذج المحادثات الخاص بها آمن بشكل خاص، وقد فشلت ببساطة في التعليق على الأمر، وهو خيار له عواقب بعيدة المدى، خاصة للتطبيقات التي تتطلب درجة أعلى من الأمان.

موازنة الابتكار والمسؤولية

يُبرز إصدار ميتstral لنموذج 7B التوازن الدقيق بين الابتكار والمسؤولية في صناعة الذكاء الاصطناعي. وبينما تُعد التطورات التكنولوجية ضرورية للتقدم، يجب أن تكون مقترحة بإجراءات سلامة صارمة، لا سيما في النماذج المصممة للمحادثات والمحادثة. وتُعد الجدل المحيط بنموذج ميتstral للذكاء الاصطناعي تذكيرًا بأن الشفافية والمساءلة وآليات تعديل المحتوى القوية أمران حاسمان في تطوير ونشر نماذج الذكاء الاصطناعي. ومع استمرار مجتمع الذكاء الاصطناعي في التعامل مع هذه التحديات، يظل الاستخدام المسؤول لتكنولوجيا الذكاء الاصطناعي في صدارة المناقشات، مما يضمن أن تعود الفوائد على المجتمع دون المساس بالسلامة والأخلاقيات.