dentمستخدمو OpenAI ثغرة أمنية. فبعد فترة وجيزة من نشر OpenAI لنموذجها الأولي للذكاء الاصطناعي "المُستدل"، o1، لوحظ سلوك غريب. إذ يبدو أنه عند طرح سؤال باللغة الإنجليزية، يبدأ النموذج أحيانًا "بالتفكير" بلغة أخرى غير الإنجليزية، مثل الصينية أو الفارسية.
قال أحد المستخدمين: "بدأ [O1] فجأةً بالتفكير باللغة الصينية في منتصف الحديث". قال مستخدم آخر تمامًا على موقع X "لماذا بدأ [O1] فجأةً بالتفكير باللغة الصينية؟"
لماذا بدأ هاتف O1 Pro فجأةً بالتفكير باللغة الصينية؟ لم تكن أيٌّ من المحادثات (أكثر من 5 رسائل) باللغة الصينية... أمرٌ مثيرٌ للاهتمام... تأثير بيانات التدريب pic.twitter.com/yZWCzoaiit
– ريشاب جاين (@RishabJainK) 9 يناير 2025
بحسب الملاحظات، عندما يُعرض على النظام o1 مشكلة لحلها، فإنه يبدأ عملية "التفكير"، والتي تتضمن سلسلة من خطوات الاستدلال التي تؤدي إلى إجابة. وتكون الإجابة النهائية من النظام o1 باللغة الإنجليزية إذا كُتب السؤال بتلك اللغة.
ومع ذلك، سيقوم النموذج بتنفيذ إجراءات معينة بلغة مختلفة قبل صياغة استنتاجه.
والجدير بالذكر أن شركة OpenAI لم تقدم تفسيراً لسلوك o1 الغريب، بل ولم تعترف به حتى. فما السبب المحتمل لذلك؟
إليكم بعض نظريات المتخصصين في مجال الذكاء الاصطناعي.
ذكر الرئيس التنفيذي لشركة Hugging Face، كليمنت ديلانج، في برنامج X أن نماذج الاستدلال مثل o1 يتم تدريبها على مجموعات بيانات تحتوي على عدد كبير من الأحرف الصينية.
بالإضافة إلى ذلك، ووفقًا لتيد شياو، الباحث في جوجل ديب مايند، تستخدم منظمات مثل أوبن إيه آي خدمات تصنيف البيانات الصينية التابعة لجهات خارجية، ويُعد التحول إلى اللغة الصينية مثالاً على "التأثير اللغوي الصيني على التفكير"
كتب تيد شياو في منشور على موقع X : "تستخدم مختبرات الذكاء الاصطناعي العام مثل OpenAI و Anthropic خدمات تصنيف البيانات من طرف ثالث لبيانات الاستدلال على مستوى الدكتوراه في العلوم والرياضيات والبرمجة؛ ولأسباب تتعلق بتوافر العمالة الخبيرة والتكلفة، فإن العديد من مزودي البيانات هؤلاء موجودون في الصين".
على ما يبدو، خلال عملية التدريب، تساعد التصنيفات، والتي يشار إليها أيضًاdentالمعرفات أو التعليقات التوضيحية، النماذج في فهم البيانات وتفسيرها.
على سبيل المثال، قد تتكون التصنيفات المستخدمة لتدريب نموذج التعرف على الصور من تعليقات تشير إلى كل شخص أو مكان أو كائن مصور في الصورة أو علامات تحيط بالأشياء.
بالإضافة إلى ذلك، أظهرت الأبحاث أن التصنيفات المتحيزة قد تؤدي إلى نماذج متحيزة. على سبيل المثال، يميل المُعلِّق العادي إلى تصنيف العبارات في اللغة الإنجليزية العامية الأمريكية الأفريقية (AAVE).
يُعرف هذا النوع من اللغة بـ"القواعد غير الرسمية" التي يستخدمها بعض الأمريكيين السود، والتي تُعتبر سامة. ونتيجةً لذلك، فإن أنظمة الذكاء الاصطناعي المُدرَّبة على هذه التصنيفات تعتبر اللغة الإنجليزية AAVE سامة للغاية.
مع ذلك، لا تحظى نظرية تصنيف البيانات الصينية باستخدام o1 بقبول خبراء آخرين. فهم يؤكدون أن احتمالية تحول o1 إلى الهندية أو التايلاندية أو أي لغة أخرى غير الصينية متساوية، وذلك في سياق محاولتهم إيجاد حل.
بل إن هؤلاء الخبراء يجادلون بأن نموذج o1 ونماذج الاستدلال الأخرى قد تستخدم اللغات الأكثر كفاءة لتحقيق هدف ما.
ولهذا السبب، قال ماثيو غوزديال، الباحث في مجال الذكاء الاصطناعي: "لا يعرف النموذج ما هي اللغة أو أن اللغات مختلفة". وذلك لأن الرموز، على غرار التصنيف، لديها القدرة على فرض تحيزات.
على وجه الخصوص، تفترض العديد من برامج الترجمة من كلمة إلى رمز أن المسافة في الجملة تشير إلى كلمة جديدة. وذلك بغض النظر عن حقيقة أن ليس كل اللغات تستخدم المسافات لفصل الكلمات.
مع ذلك، أكد لوكا سولدايني، الباحث العلمي في معهد ألين للذكاء الاصطناعي غير الربحي، أنه من المستحيل الجزم بذلك. وصرح قائلاً: "من المستحيل التحقق من صحة هذا النوع من الملاحظات على نظام ذكاء اصطناعي مُفعّل، نظراً لطبيعة هذه النماذج المبهمة [...] إنها إحدى الحالات العديدة التي تُبرز أهمية الشفافية في بناء أنظمة الذكاء الاصطناعي".
مشاكل OpenAI
كان عام 2024 عامًا مليئًا بالتقلبات بالنسبة لشركة OpenAI. فقد بدأت الشركة ورئيسها التنفيذي، سام ألتمان، العام برفع دعوى قضائية ضدهما من قبل إيلون ماسك، الذي زعم أن الشركة انحرفت عن هدفها الأصلي غير الربحي لتركز على الربح على حساب المنفعة العامة.
في العام الماضي، رفعت ثماني صحف أمريكية، من بينها نيويورك ديلي نيوز وشيكاغو تريبيون ودنفر بوست، دعاوى قضائية ضد شركتي OpenAI ومايكروسوفت. واتهمت هذه الصحف الشركة باستخدام ملايين المنشورات المحمية بحقوق الطبع والنشر لتدريب روبوتات الدردشة التي تعمل بالذكاء الاصطناعي دون إذن أو مقابل مادي. وزعمت أن هذه التقنية تنتهك حقوق الملكية الفكرية الخاصة بها.
كما أعلنت ميرا موراتي، كبيرة مسؤولي التكنولوجيا في شركة OpenAI، عن رحيلها. وكان هذا وقتاً حاسماً لأن مهاراتها التقنية كانت ضرورية لتطوير الشركة.
علاوة على ذلك، واجهت OpenAI العديد من الصعوبات مع ChatGPT، مثل الانقطاعات العرضية، والأعطال التي أدت إلى ردود غير دقيقة أو غير منطقية من روبوت الدردشة، ومخاوف تتعلق بخصوصية المستخدم. كما سُجلت حالات قام فيها الذكاء الاصطناعي بتوليد محتوى متحيز أو مسيء.
