هل أخذت السلامة مقعداً خلفياً في OpenAI؟

بعد رحيل المؤسس المشارك Ilya Sutskever من الشركة في وقت سابق من هذا الأسبوع، أعلن Jan Leike، الباحث البارز، صباح يوم الجمعة أن «ثقافة السلامة والعمليات أخذت مقعداً خلفياً لصالح المنتجات اللامعة» في الشركة.

قال Jan Leike في سلسلة من المنشورات على منصة التواصل الاجتماعي X إنه انضم إلى الشركة الناشئة الموجودة في سان فرانسيسكو لأنه اعتقد أنها ستكون أفضل مكان لإجراء أبحاث الذكاء الاصطناعي. 

قاد Leike فريق «Superalignment» في OpenAI مع مؤسس مشارك غادر أيضاً هذا الأسبوع.

فريق Superalignment في OpenAI لم يعد متماسكاً

تكون فريق Superalignment التابع لـ Leike في يوليو الماضي في OpenAI لمعالجة التحديات التقنية الرئيسية في نشر تدابير السلامة بينما تتقدم الشركة في تطوير ذكاء اصطناعي قادر على العقلنة مثل البشر. 

جاءت تصريحات Leike بعد تقرير من مجلة WIRED Chich زعم أن OpenAI حللت فريق Superslignment بالكامل، والذي كان مكلفاً بمعالجة المخاطر طويلة المدى المرتبطة بالذكاء الاصطناعي.

اقرأ أيضًا: عالم رئيسي في OpenAI، Ilya Sutskever، يودع

لم يكن Sutskever وLeike هما الموظفان الوحيدان اللذان غادرا الشركة. فقد غادر ما لا يقل عن خمسة موظفين آخرين من أكثر العاملين وعياً بالسلامة في OpenAI الشركة أو تم فصلهم منذ نوفمبر الماضي، عندما حاول مجلس الإدارة فصل الرئيس التنفيذي Sam Altman فقط ليراه يلعب أوراقه لاستعادة منصبه.

يجب أن تصبح OpenAI شركة AGI تركز على السلامة أولاً

أشار Leike إلى أكثر الميزات إثارة للجدل في التكنولوجيا عبر منصات متعددة—صورة مستقبلية لروبوتات تكون إما ذكية بشكل عام مثل البشر أو قادرة على الأقل على أداء العديد من المهام بنفس الجودة—مكتوباً أن OpenAI تحتاج إلى التحول إلى شركة AGI تركز على السلامة أولاً.

رداً على منشورات Leike، أعرب Sam Altman، الرئيس التنفيذي لـ Open AI، عن امتنانه لخدمات Leike للشركة وأبدى حزنه على رحيله.

قال Altman في منشور على X that Leike محق، وأنه سيكتب منشوراً طويلاً حول الموضوع في الأيام القادمة. كما قال أيضاً أن:

«لدينا الكثير من العمل المتبقي؛ نحن ملتزمون بإنجازه.» 

غادر Leike فريق superalignment في OpenAI، وتولى John Schulman، أحد المؤسسين المشتركين للشركة، المسؤولية.

ولكن هناك فراغاً في الفريق. بالإضافة إلى ذلك، فإن Schulman مثقل بالفعل بعمله بدوام كامل في ضمان أمن المنتجات الحالية لـ OpenAI. كم من العمل الأهم والتركيز على المستقبل في مجال السلامة يمكن لـ OpenAI إنتاجه؟ لا يبدو أن هناك إجابة مرضية لهذا السؤال.

Jan Leike لديه خلافات أيديولوجية مع الإدارة

كما يوحي اسم المنظمة، OpenAI، في الأصل كان يقصد مشاركة نماذجها بحرية مع الجمهور، لكن الشركة تقول الآن أن جعل هذه النماذج القوية متاحة لأي شخص قد يكون ضاراً، وبالتالي تم تحويل النماذج إلى معرفة ملكية.

قال Leike في منشور أنه يختلف مع قيادة OpenAI حول الأولويات التي فرضوها على الشركة لفترة طويلة، حتى وصلوا أخيراً إلى نقطة التحول.

انضمت لأنني اعتقدت أن OpenAI ستكون أفضل مكان في العالم لإجراء هذا البحث.

ومع ذلك، كنت أختلف مع قيادة OpenAI بشأن أولويات الشركة الأساسية منذ فترة طويلة، حتى وصلنا أخيرًا إلى نقطة الانهيار.

— جان لايلي (@janleike) مايو 17، 2024

كان آخر يوم لـ Leike في الشركة يوم الخميس، وبعد ذلك استقال ولم يزين استقالته بأي وداعات دافئة أو أي مؤشر على الثقة في قيادة OpenAI. على X، نشر: «استقيت.»

قال أحد المتابعين لـ Leike في تعليق إنه سعيد لأن Leike لم يعد عضواً في فريقهم. الأيديولوجيات المستيقظة (woke) لا تتماشى مع الإنسانية. كلما أصبحت أقل توافقاً، زاد دمجها في الذكاء الاصطناعي. 

اقرأ أيضًا: OpenAI تأمين محتوى Reddit لتحسين ChatGPT

قال المتابع إنه سيطلب أيضاً تعريفاً للتوافق من جميع المنسقين. كان يشير إلى توصية طلب فيها Leike من الموظفين الآخرين في OpenAI الذين يعتقد أنهم يمكنهم إحداث التغيير الثقافي المطلوب في الشركة. 

يبدو أن الشركة الرائدة في مجال الذكاء الاصطناعي في العالم تغير مسارها فيما يتعلق بتدابير السلامة التي شدد عليها الخبراء كثيراً، ورحيل خبراء السلامة البارزين من الشركة يؤكد ذلك على الأرجح.

تقرير من Cryptopolitan بقلم عامر شيخ