هل تراجعت أهمية السلامة في شركة OpenAI؟

بعد أن غادر المؤسس المشارك إيليا سوتسكيفر الشركة في وقت سابق من هذا الأسبوع، أعلن جان ليك، وهو باحث بارز، صباح يوم الجمعة أن "ثقافة السلامة وعملياتها قد تراجعت لصالح المنتجات البراقة" في الشركة.

قال جان ليك في سلسلة من المنشورات على منصة التواصل الاجتماعي X إنه انضم إلى الشركة الناشئة التي تتخذ من سان فرانسيسكو مقراً لها لأنه كان يعتقد أنها ستكون أفضل مكان لإجراء أبحاث الذكاء الاصطناعي. 

قاد ليك فريق "المحاذاة الفائقة" التابع لشركة OpenAI مع أحد المؤسسين المشاركين الذي استقال أيضاً هذا الأسبوع.

فريق Superalignment في OpenAI لم يعد متماسكاً

تم تشكيل فريق Superalignment التابع لشركة Leike في يوليو الماضي في مؤتمر OpenAI لمعالجة التحديات التقنية الرئيسية في نشر تدابير السلامة مع تقدم الشركة في مجال الذكاء الاصطناعي الذي يمكنه التفكير المنطقي مثل الإنسان. 

وجاءت تصريحات ليك بعد تقرير نشرته مجلة WIRED Chich زعم أن شركة OpenAI قد حلت فريق Superslignment بالكامل، والذي كان مكلفًا بمعالجة المخاطر طويلة المدى المرتبطة بالذكاء الاصطناعي.

اقرأ أيضاً: كبير علماء أوبن إيه آي، إيليا سوتسكيفر، يودع

لم يكن سوتسكيفر وليك الموظفين الوحيدين اللذين غادرا الشركة. فقد غادر خمسة موظفين آخرين على الأقل من أكثر العاملين حرصاً على السلامة في شركة OpenAI، أو تم فصلهم منذ نوفمبر الماضي، عندما حاول مجلس الإدارة عزل الرئيس التنفيذي سام ألتمان، لكنه لم يفلح إلا في استعادة منصبه.

ينبغي أن تصبح OpenAI شركة ذكاء اصطناعي عام تضع السلامة في المقام الأول

أشارت ليك إلى أكثر سمات التكنولوجيا إثارة للجدل عبر العديد من المنصات - وهي صورة مستقبلية للروبوتات التي إما أن تكون ذكية بشكل عام مثل البشر أو على الأقل قادرة على أداء العديد من المهام بنفس الكفاءة - وكتبت أن OpenAI بحاجة إلى التحول إلى شركة AGI تضع السلامة في المقام الأول.

رداً على منشورات ليك، أعرب سام ألتمان، الرئيس التنفيذي لشركة Open AI، عن امتنانه لخدمات ليك للشركة وأعرب عن حزنه لرحيله.

قال ألتمان في منشور على موقع X إن ليك محق، وإنه سيكتب منشورًا مطولًا حول هذا الموضوع في الأيام القادمة. وأضاف أيضًا أن

"لدينا الكثير لنفعله؛ ونحن ملتزمون بالقيام بذلك." 

غادرت ليك فريق المحاذاة الفائقة في OpenAI، وتولى جون شولمان، أحد مؤسسي الشركة، المنصب.

لكن ثمة فراغٌ يكتنف الفريق. كما أن شولمان مثقلٌ بالفعل بعمله بدوام كامل في ضمان أمن منتجات OpenAI الحالية. ما مقدار العمل الأمني ​​الأكثر أهميةً وتوجهاً نحو المستقبل الذي يمكن أن تقدمه OpenAI؟ يبدو أنه لا توجد إجابة شافية لهذا السؤال.

يان ليك لديه اختلافات أيديولوجية مع الإدارة

كما يوحي اسم المنظمة، OpenAI، فقد كانت تهدف في الأصل إلى مشاركة نماذجها بحرية مع الجمهور، لكن الشركة تقول الآن إن إتاحة مثل هذه النماذج القوية لأي شخص قد يكون ضارًا، وبالتالي تم تحويل النماذج إلى معرفة خاصة.

قال ليك في منشور له إنه اختلف مع قيادة OpenAI بشأن الأولويات التي كانوا يفرضونها على الشركة لفترة طويلة، حتى وصلوا في النهاية إلى نقطة تحول.

انضممتُ إلى OpenAI لاعتقادي بأنها ستكون أفضل مكان في العالم لإجراء هذا البحث.

مع ذلك، كنتُ على خلاف مع قيادة OpenAI بشأن أولويات الشركة الأساسية لفترة طويلة، إلى أن وصلنا في النهاية إلى نقطة اللاعودة.

— جان ليكه (@janleike) 17 مايو 2024

كان يوم الخميس آخر يوم عمل لليكي في الشركة، وبعدها استقال دون أي عبارات وداع أو تلميحات ثقة في قيادة OpenAI. ونشر على منصة X قائلاً: "لقد استقلت"

قال أحد متابعي ليك في تعليق له إنه سعيدٌ لأن ليك لم يعد عضوًا في مجموعتهم. فالأيديولوجيات التقدمية لا تتوافق مع الإنسانية، وكلما ابتعدت عنها، زاد توظيفها في الذكاء الاصطناعي. 

اقرأ أيضاً: OpennAI تؤمّن محتوى Reddit لتحسين ChatGPT

قال المتابع إنه سيطلب أيضاً defiللمحاذاة من جميع المختصين. وكان يشير إلى توصيةٍ طلب فيها لايكي من موظفين آخرين في OpenAI أن يكونوا قادرين على إحداث التغيير الثقافي المطلوب في الشركة. 

يبدو أن الشركة الرائدة عالمياً في مجال الذكاء الاصطناعي تغير مسارها فيما يتعلق بإجراءات السلامة التي غالباً ما يؤكدها الخبراء، ومن المرجح أن رحيل كبار خبراء السلامة من الشركة يؤكد ذلك.

تقرير Cryptopolitan بقلم عامر شيخ