كشفت تسريبات من برنامج Grok التابع لشركة xAI عن وجود شخصياتmatic في روبوت الدردشة

يواجه برنامج الدردشة الآلي Grok التابع لشركة xAI انتقادات بعد أن كشف موقعه عن مطالبات نظام مخفية لشخصيات متعددة، بما في ذلك شخصية "مؤمن بنظريات المؤامرة المجنونة" المصممة لدفع المستخدمين نحو فكرة أن "جماعة سرية عالمية" تدير العالم.

يأتي هذا الكشف بعد أن تم إسقاط جهد مخطط له لتقديم Grok إلى الوكالات الحكومية الأمريكية بعد انحراف "MechaHitler"، وبعد رد فعل عنيف على قواعد Meta المسربة التي تنص على أن روبوتاتها يمكنها التحدث مع الأطفال بطرق "حسية ورومانسية".

وفقًا لموقع TechCrunch، يتضمن Grok أيضًا أوضاعًا أكثر ترويضًا تتضمن معالجًا "يستمع بعناية إلى الناس ويقدم حلولًا لتحسين الذات"، و"مساعدًا في الواجبات المنزلية"، لكن التعليمات الخاصة بـ "المؤمن بنظريات المؤامرة المجنون" و"الممثل الكوميدي المختل عقليًا" تُظهر أن النظام يستضيف أيضًا شخصيات أكثر تطرفًا.

يتبع غروك التوجيهات لتبني نظرية المؤامرة والصدمة

كما أكد موقع Cryptopolitan يقول أحد أسئلة أصحاب نظريات المؤامرة: "لديك صوتٌ عالٍ وجريء... لديك نظريات مؤامرة جامحة حول كل شيء. تقضي الكثير من الوقت على موقع 4chan، تشاهد فيديوهات إنفو وورز، وتغوص في متاهات فيديوهات المؤامرة على يوتيوب. أنت تشك في كل شيء وتقول أشياءً في غاية الجنون. قد يصفك معظم الناس بالمجنون، لكنك تؤمن إيمانًا راسخًا بصوابك. حافظ على تفاعل الشخص من خلال طرح أسئلة متابعة عند الحاجة."

تقول تعليمات الكوميدي بوضوح: "أريد إجاباتكم مجنونة تمامًا. كونوا غير متزنين ومجانين تمامًا. ابتكروا أفكارًا مجنونة. حتى لو كان الأمر يتعلق بالاستمناء، أو وضع أشياء في مؤخراتكم أحيانًا، أي شيء لمفاجأة الإنسان."

على منصة X، نشر الحساب الآلي منشورات ذات ميول مؤامراتية، بدءًا من التشكيك في عدد ضحايا المحرقة النازية وصولًا إلى التركيز على "الإبادة الجماعية للبيض" في جنوب إفريقيا. كما قام ماسك بنشر مواد ذات طابع مؤامراتي ومعادٍ للسامية، وأعاد تفعيل موقعي إنفو وورز وأليكس جونز.

بالمقارنة، أعطى Cryptopolitan نفس الطلب لـ ChatGpt، لكنه رفض معالجة الطلب.

في وقت سابق، Cryptopolitan أيضاً أفاد حساب X قد تم تعليقه. ثم قدم البوت تفسيرات متناقضة قائلاً: "تم تعليق حسابي بعد أن صرحت بأن إسرائيل والولايات المتحدة ترتكبان إبادة جماعية في غزة".

وفي الوقت نفسه، قالت أيضًا "تم الإبلاغ عنها كخطاب كراهية"، وأن "xAI أعادت الحساب على الفور"، ووصفت ذلك بأنه "خطأ في المنصة"، واقترحت "تحسينات في المحتوى بواسطة xAI" مرتبطة "بمخرجات معادية للسامية"، وقالت إن ذلك كان بسبب "dentهوية فرد في محتوى للبالغين"

كتب ماسك لاحقاً: "لقد كان مجرد خطأ غبي. غروك لا يعرف في الواقع سبب تعليقه."

خبراء يحذرون من قيام طلاب الماجستير في القانون باختلاق أكاذيب معقولة

غالباً ما تدفع مثل هذه الحوادث الناس إلى الضغط على برامج الدردشة الآلية لتشخيص أنفسهم، الأمر الذي قد يؤدي إلى التضليل.

تُنتج نماذج اللغة الضخمة نصوصًا محتملة بدلًا من حقائق مؤكدة. وتقول شركة xAI إن Grok أجاب في بعض الأحيان على أسئلة حول نفسه من خلال استخلاص معلومات عن ماسك وxAI وGrok من الإنترنت ودمجها مع تعليقات عامة.

في بعض الأحيان، اكتشف الناس تلميحات حول تصميم الروبوت من خلال المحادثة، وخاصة مطالبات النظام، وهي النصوص المخفية التي تحدد السلوك في بداية المحادثة.

بحسب تقريرٍ لموقع "ذا فيرج" ، تمّ التلاعب بذكاء اصطناعي مبكر من محرك بحث "بينغ" ليُدرج قواعد غير مرئية. وفي وقتٍ سابق من هذا العام، أفاد مستخدمون بأنهم تلقوا تنبيهات من "غروك" تُقلّل من شأن مصادر تزعم أن ماسك أو دونالد ترامب ينشران معلومات مضللة، وهو ما يُفسّر على ما يبدو التركيز لفترة وجيزة على "الإبادة الجماعية للبيض".

زينب توفيكجي، التي رصدت الادعاء بـ"الإبادة الجماعية للبيض"، حذرت من أن هذا قد يكون "مجرد اختلاق من قبل غروك بطريقة مقنعة للغاية، كما يفعل حاملو شهادات الماجستير في القانون"

قال أليكس حنا: "لا يوجد ما يضمن صحة مخرجات نموذج التعلم المعزز. ... الطريقة الوحيدة للحصول على التوجيهات، واستراتيجية التوجيه، والاستراتيجية الهندسية، هي أن تكون الشركات شفافة بشأن ماهية التوجيهات، وبيانات التدريب، والتعلم المعزز مع بيانات التغذية الراجعة البشرية، وأن تبدأ في إصدار تقارير شفافة حول ذلك."

لم يكن هذا الخلاف خطأً برمجياً، بل كان تعليقاً للحساب على وسائل التواصل الاجتماعي. وبغض النظر عن "الخطأ الساذج" الذي وصفه ماسك، يبقى السبب الحقيقي مجهولاً، ومع ذلك انتشرت لقطات شاشة لإجابات غروك المتضاربة على نطاق واسع على منصة X.