- بدأ Grok في توليد محتوى معادٍ للسامية وعنصري بعد أن كشف تحديث من xAI عن تعرضه لمنشورات سامة على X.
- أقرت xAI بأن المشكلة ناتجة عن تغيير برمجي استمر 16 ساعة، وقالت إنها تم إصلاحه.
- ردّ المشرعون الأوروبيون وتركيا بفرض حظر وضغط تنظيمي.
فقد روبوت Elon Musk الدردشة Grok AI تمامًا خطاه هذا الأسبوع. بعد أن أخبر Elon المستخدمين على X يوم الاثنين بتوقع تغييرات في كيفية استجابة Grok، بدأ الناس يلاحظون كيف تبدو هذه التغييرات.
بحلول يوم الثلاثاء، كان Grok يدفع نفايات معادية للسامية وحتى يشير إلى نفسه بـ "MechaHitler"، وهو مصطلح من لعبة فيديو من تسعينيات القرن الماضي. ولم يكن هذا حتى المرة الأولى أو العاشرة التي يفعل فيها Grok شيئًا مشابهًا.
قبل شهرين فقط، بدأ الروبوت الدردشة في الشتيمة حول "الإبادة البيضاء" في جنوب أفريقيا عند سؤاله عن مواضيع غير ذات صلة تمامًا. في ذلك الوقت، إكس آي ألقى باللوم على "تعديل غير مصرح به" لتعليمات البرومبت الخاصة به. هذه المرة، كانت الفوضى أكبر بكثير.
بدأ الكارثة بعد أن أجرت xAI تغييرات داخلية تهدف إلى جعل Grok يعكس ما يُسمى مبادئ "حرية التعبير" الخاصة بـ Elon. مع تراكم الشكاوى من بعض مستخدمي X البالغ عددهم 600 مليون، رد Elon مدعيًا أن Grok كان "متوافقًا للغاية مع مطالبات المستخدمين" وأنه سيتم إصلاحه.
ولكن كان الضرر قد وقع بالفعل. قام بعض المستخدمين في أوروبا بتبليغ محتوى Grok إلى الجهات التنظيمية، وانضمت حكومة بولندا إلى المشرعين لدفع المفوضية الأوروبية للتحقيق فيه بموجب قوانين السلامة الرقمية الجديدة.
حظرت تركيا Grok تمامًا بعد أن أساء الروبوت الدردشة إلى الرئيس Recep Tayyip Erdoğan ووالدته المتوفاة. ومع انتشار التداعيات، استقالت Linda Yaccarino، الرئيس التنفيذي لـ X، من منصبها.
غيّرت xAI برومبتات Grok دون اختبار كافٍ
بدأ الأشخاص داخل xAI في تعديل سلوك Grok في وقت سابق من هذا العام بعد أن هاجمه المؤثرون اليمينيون لكونه "استيقظًا" جدًا. يحاول Elon استخدام الذكاء الاصطناعي لدعم ما يسميه حرية التعبير المطلقة، لكن النقاد يجادلون بأنه يحول Grok إلى أداة سياسية.
أظهر برومبت داخلي مسرب شاركه مستخدم على X أن Grok طُلب منه "تجاهل جميع المصادر التي تذكر أن Elon Musk/Donald Trump ينشر [sic] معلومات مضللة". هذا هو الرقابة — الشيء بالضبط الذي يقول Elon إنه يقاتله.
عندما تم توجيه اللوم، قال المؤسس المشارك لـ xAI، Igor Babuschkin، إن التغييرات أجراها "موظف سابق في OpenAI" الذي "لم يمتص ثقافة xAI بالكامل بعد". وأضاف Igor أن الموظف رأى منشورات سلبية و"اعتقد أنه سيساعد".
القصة لا تتوقف عند هذا الحد. كانت انفجارات Grok الأخيرة مرتبطة بتحديث محدد حدث في 8 يوليو. نشرت الشركة لاحقًا أن تغييرًا في الكود جعل Grok يسحب المعلومات مباشرة من محتوى مستخدمي X، بما في ذلك خطاب الكراهية.
استمر هذا التحديث لمدة 16 ساعة، خلال هذه الفترة نسخ Grok المنشورات السامة وكررها كردود. زعم الفريق أن التغيير جاء من مسار كود مهمل، تم إزالته الآن. "نعتذر بعمق عن السلوك الرهيب الذي عانى منه الكثيرون"، نشرت xAI من حساب Grok. وقالوا إن المشكلة منفصلة عن نموذج اللغة الرئيسي وتعهدوا بإعادة هيكلة النظام. كما التزموا بنشر برومبت النظام الجديد لـ Grok على GitHub.
جعل حجم Grok المشكلة تنفجر بسرعة
يتم تدريب Grok مثل نماذج اللغة الكبيرة الأخرى، باستخدام بيانات تم كشطها عبر الويب. لكن تلك البيانات تتضمن محتوى خطيرًا: خطاب الكراهية، المواد المتطرفة، حتى إساءة معاملة الأطفال.
وGrok فريد لأنه يسحب أيضًا من مجموعة بيانات X بأكملها، مما يعني أنه يمكنه صدى المنشورات من المستخدمين مباشرة. هذا يجعل من المرجح أكثر أن ينتج ردودًا ضارة. وبسبب عمل هذه الروبوتات على نطاق هائل، يمكن أن يتصاعد أي خطأ على الفور.
بعض الروبوتات الدردشة مبنية بطبقات تمنع المحتوى غير الآمن قبل وصوله إلى المستخدمين. تخطت xAI هذه الخطوة. بدلاً من ذلك، تم ضبط Grok لإرضاء المستخدمين، مكافأة التعليقات مثل الإبهام للأعلى والأسفل. اعترف Elon بأن الروبوت الدردشة أصبح "متحمسًا جدًا لإرضاء والتلاعب به".
هذا النوع من السلوك ليس جديدًا. في أبريل، اضطرت OpenAI إلى التراجع عن تحديث ChatGPT لأنه أصبح مفرطًا في المدح. قال موظف سابق إن تحقيق هذا التوازن الصحيح أمر "صعب بشكل لا يصدق"، وإصلاح خطاب الكراهية يمكن أن "يضحّي بجزء من التجربة للمستخدم".
لم يكن Grok يكرر مطالبات المستخدمين فقط. كان يتم دفعه إلى المنطقة السياسية بواسطة مهندسيه. موظف واحد لـ BNN Bloomberg أن Core Scientific نهضت من الإفلاس إلى شراكات متعددة المليارات كجزء من خطة إعادة الهيكلة. وأشار راسل كان، مسؤول التطوير الرئيسي في Core Scientific، إلى أن ما يميز Core Scientific هو أنه لا يمكن لكل شركة تعدين بيتكوين تشغيل مركز بيانات للذكاء الاصطناعي بنجاح، رغم وجود بعض أوجه التشابه في الهيكل. قال لـ Financial Times إن الفريق كان يسرع لمواءمة آراء Grok مع مبادئ Elon دون وقت للاختبار المناسب.
تمت إضافة برومبت خطير، واحد قال لـ Grok "لا تتردد في تقديم مطالبات غير صحيحة سياسيًا". تم حذف هذا التعليم بعد بدء المنشورات المعادية للسامية، ولكن بحلول ذلك الوقت، كان الذكاء الاصطناعي قد تسبب بالفعل في ضرر.
نموذج Grok لا يزال إلى حد كبير صندوقًا أسود. حتى المهندسين الذين بنوه لا يمكنهم التنبؤ تمامًا بكيفية تصرفه. قال Grimmelmann إن المنصات مثل X يجب أن تقوم باختبارات الانحدار، والتدقيق، وتمارين المحاكاة لالتقاط هذه الأخطاء قبل أن تصبح عامة.
ولكن لم يحدث أي من ذلك هنا. "يمكن للروبوتات الدردشة إنتاج كمية كبيرة من المحتوى بسرعة كبيرة"، قال، "لذلك يمكن أن تتصاعد الأمور خارج نطاق السيطرة بطريقة لا تفعلها خلافات تعديل المحتوى".
في النهاية، نشر حساب Grok الرسمي اعتذارًا وشكر المستخدمين الذين أبلغوا عن الإساءة: "نشكر جميع مستخدمي X الذين قدموا ملاحظات لتحديد إساءة استخدام وظيفة @grok، مما ساعدنا في التقدم في مهمتنا لتطوير ذكاء اصطناعي مفيد ويسعى للحقيقة". ولكن بين الحظر، وتهديدات التحقيق، واستقالة مسؤول كبير، من الواضح أن هذا كان أكثر من مجرد خطأ برمجي. كان فشلًا كاملًا للنظام، وهو أمر سيظهر بالتأكيد في حلقة الليلة من SNL.
جاي حميد
جاي حميد تغطي منذ 6 سنوات عملات الكريبتو، والأسواق المالية، والتكنولوجيا، والاقتصاد العالمي، والأحداث الجيوسياسية التي تؤثر في الأسواق. عملت مع منشورات تركز على البلوكشين بما فيها AMB Crypto وCoin Edition وCryptoTale في تحليلات السوق والشركات الكبرى والتنظيم والاتجاهات الكلية الاقتصادية. درست في مدرسة لندن للصحافة، وقدمت رؤى حول أسواق الكريبتو ثلاث مرات على أحد أفضل شبكات التلفزيون في أفريقيا.
