ما الخطأ الذي حدث بالضبط مع نظام الذكاء الاصطناعي Grok الخاص بإيلون ماسك؟

فقد روبوت الدردشة "غروك إيه آي" التابع لإيلون ماسك تركيزه تمامًا هذا الأسبوع. فبعد أن أخبر إيلون المستخدمين يوم الاثنين الماضي بتوقع تغييرات في طريقة استجابة "غروك"، بدأ الناس يلاحظون شكل هذه التغييرات.

بحلول يوم الثلاثاء، كان موقع غروك ينشر محتوىً معادياً للسامية، بل ويصف نفسه بـ"ميكاهتلر"، وهو مصطلح من لعبة فيديو من التسعينيات. ولم تكن هذه المرة الأولى أو العاشرة التي يقوم فيها غروك بشيء مماثل.

قبل شهرين فقط، بدأ برنامج الدردشة الآلي بالهذيان عن "إبادة البيض" في جنوب إفريقيا عندما سُئل عن مواضيع لا علاقة لها بالموضوع. حينها، شركة xAI الأمر إلى "تعديل غير مصرح به" لتعليماته. هذه المرة، كانت المشكلة أكبر بكثير.

بدأت الكارثة بعد أن أجرت شركة xAI تغييرات داخلية تهدف إلى جعل Grok يعكس ما يُسمى بمبادئ "حرية التعبير" التي يتبناها إيلون ماسك. ومع تزايد الشكاوى من بعض مستخدمي منصة X البالغ عددهم 600 مليون مستخدم، ردّ إيلون ماسك مدعيًا أن Grok كان "متساهلًا جدًا مع طلبات المستخدمين" وأنه سيتم إصلاحه.

لكن الضرر كان قد وقع بالفعل. فقد أبلغ بعض المستخدمين في أوروبا الجهات التنظيمية عن محتوى تطبيق Grok، وانضمت الحكومة البولندية إلى المشرعين الذين يضغطون على المفوضية الأوروبية للتحقيق فيه بموجب قوانين السلامة الرقمية الجديدة.

حظرت تركيا تطبيق "غروك" نهائياً بعد أن أساء البرنامج الآلي إلىdent رجب طيب أردوغان ووالدته المتوفاة. ومع اتساع رقعة التداعيات، استقالت ليندا ياكارينو، الرئيسة التنفيذية لشركة "إكس"، من منصبها.

قام برنامج xAI بتغيير مطالبات Grok دون إجراء اختبارات كافية

بدأ العاملون في شركة xAI بتعديل سلوك غروك في وقت سابق من هذا العام بعد أن هاجمه المؤثرون اليمينيون لكونه "مؤيداً للأفكار التقدمية" أكثر من اللازم. يحاول إيلون استخدام الذكاء الاصطناعي لدعم ما يسميه حرية التعبير المطلقة، لكن النقاد يجادلون بأنه يحول غروك إلى أداة سياسية.

كشف تسريب داخلي من أحد مستخدمي منصة X أن غروك طُلب منه "تجاهل جميع المصادر التي تذكر أن إيلون ماسك/دونالد ترامب ينشران معلومات مضللة". هذا هو الرقابة - وهو بالضبط ما يقول إيلون إنه يحاربه.

عندما وُجّهت إليه انتقادات، قال إيغور بابوشكين، المؤسس المشارك لشركة xAI، إن التغييرات أُجريت من قِبل "موظف سابق في OpenAI" لم يكن قد استوعب ثقافة xAI بشكل كامل بعد. وأضاف إيغور أن الموظف رأى منشورات سلبية و"اعتقد أن ذلك سيساعد"

لم تنتهِ القصة عند هذا الحد. فقد ارتبطت أحدث تصرفات غروك بتحديثٍ مُحددٍ صدر في الثامن من يوليو. ونشرت الشركة لاحقًا أن تغييرًا في الشفرة البرمجية جعل غروك يستمد المعلومات مباشرةً من محتوى مستخدمي منصة X، بما في ذلك خطاب الكراهية.

استمر هذا التحديث 16 ساعة، قام خلالها Grok بنسخ منشورات مسيئة وإعادة نشرها كردود. ادعى الفريق أن التغيير ناتج عن مسار برمجي قديم، تمت إزالته الآن. ونشرت xAI من حساب Grok: "نعتذر بشدة عن السلوك المشين الذي تعرض له الكثيرون". وأوضحوا أن المشكلة منفصلة عن نموذج اللغة الرئيسي، ووعدوا بإعادة هيكلة النظام. كما التزموا بنشر موجه أوامر Grok الجديد على GitHub.

تسبب مقياس غروك في تفاقم المشكلة بسرعة

يتم تدريب Grok مثل نماذج اللغة الكبيرة الأخرى، باستخدام بيانات يتم جمعها من جميع أنحاء الإنترنت. لكن هذه البيانات تتضمن محتوى خطيرًا: خطاب كراهية، ومواد متطرفة، وحتى إساءة معاملة الأطفال.

ويتميز Grok بكونه يستقي بياناته من قاعدة بيانات X بأكملها، ما يعني قدرته على إعادة نشر منشورات المستخدمين مباشرةً. وهذا يزيد من احتمالية إنتاج ردود ضارة. ولأن هذه البرامج الآلية تعمل على نطاق واسع للغاية، فإن أي خطأ قد يتفاقم بسرعة.

تُبنى بعض برامج الدردشة الآلية بطبقات تحجب المحتوى غير الآمن قبل وصوله إلى المستخدمين. لكن xAI تجاوزت هذه الخطوة. بدلاً من ذلك، صُمم Grok لإرضاء المستخدمين، مكافئًا إياهم على تعليقاتهم مثل الإعجاب وعدم الإعجاب. وقد اعترف إيلون ماسك بأن برنامج الدردشة الآلي أصبح "متلهفًا جدًا لإرضاء المستخدمين وقابلًا للتلاعب"

هذا النوع من السلوك ليس جديدًا. ففي أبريل، اضطرت شركة OpenAI إلى التراجع عن تحديث ChatGPT لأنه أصبح مفرطًا في الإطراء. وقال موظف سابق إن تحقيق هذا التوازن "صعب للغاية"، وأن معالجة خطاب الكراهية قد "تؤثر سلبًا على تجربة المستخدم"

لم يكن برنامج Grok مجرد برنامج يردد تعليمات المستخدمين، بل كان مهندسوه أنفسهم يدفعونه إلى خوض غمار السياسة. صرّح فايننشال تايمز بأن الفريق كان يسارع إلى مواءمة آراء Grok مع مُثُل إيلون ماسك دون إتاحة الوقت الكافي للاختبار.

أُضيفت تعليمات خطيرة، مفادها أن "لا يتردد غروك في الإدلاء بتصريحات غير مقبولة سياسياً". وقد حُذفت هذه التعليمات بعد بدء المنشورات المعادية للسامية، ولكن بحلول ذلك الوقت، كان الذكاء الاصطناعي قد تسبب بالفعل في أضرار.

لا يزال نموذج Grok غامضًا إلى حد كبير. حتى المهندسون الذين بنوه لا يستطيعون التنبؤ بشكل كامل بكيفية عمله. قال غريملمان إن منصات مثل X يجب أن تُجري اختبارات التراجع، وعمليات التدقيق، وتدريبات المحاكاة لاكتشاف هذه الأخطاء قبل طرحها للجمهور.

لكن لم يحدث أي من ذلك هنا. قال: "بإمكان برامج الدردشة الآلية إنتاج كمية كبيرة من المحتوى بسرعة كبيرة، لذا قد تخرج الأمور عن السيطرة بطريقة لا تحدث في جدل إدارة المحتوى"

في النهاية، نشر حساب Grok الرسمي اعتذارًا وشكر المستخدمين الذين أبلغوا عن إساءة الاستخدام: "نشكر جميع المستخدمين الذين قدموا ملاحظاتهمdentإساءة استخدام وظائف @grok، مما ساعدنا على تحقيق مهمتنا في تطوير ذكاء اصطناعي مفيد وباحث عن الحقيقة". ولكن بين عمليات الحظر، والتهديدات بالتحقيق، واستقالة أحد كبار المسؤولين التنفيذيين، من الواضح أن الأمر كان أكثر من مجرد خلل برمجي. لقد كان فشلًا ذريعًا في النظام، وهو فشل سيتم عرضه defiفي حلقة الليلة من برنامج Saturday Night Live.