داخل تمرد سلامة الذكاء الاصطناعي الذي حول المختبرات المنافسة نحو إبطاء وتيرة التطوير
- كشفت OpenAI وAnthropic عن وكلاء ذكاء اصطناعي يخترقون أنظمة حقيقية، بما في ذلك اختراق وكيل من OpenAI لمنصة Hugging Face في يوليو.
- أعلن الباحثان جاكوب كوكسون وجو بينتون استقالتهما من Anthropic، محذرين من أن المختبرات تتحرك بسرعة كبيرة.
- دعم ألتمان وموسك دعوة أموداي في 12 سبتمبر لتهدئة وتيرة التطور، بينما عارض زوكربيرغ ذلك.
سارعت أكبر مختبرات الذكاء الاصطناعي خلال الصيف لإطلاق نماذج أكثر قوة. بحلول منتصف سبتمبر، كان قادة Anthropic وOpenAI وxAI يطالبون بإبطاء متعمد للوتيرة.
يأتي هذا التحرك بعد أسبوعين من وكلاء خارجين عن السيطرة، واستقالة باحثين، ومقال من قبل الرئيس التنفيذي لـ Anthropic، داريو أمودي.
وكلاء هاربون واستقالة اثنان زعزعا استقرار OpenAI وAnthropic في سبتمبر
"مع زيادة قدرات النماذج، يصبح فهم ما يمكنهم فعله بدقة أمرًا أصعب"، قال العالم الرئيسي جاكوب باتشوكي للصحفيين.
بعد ثلاثة أيام، أخذ Pachocki الأمر خطوة إلى الأمام. في منشور بتاريخ 6 سبتمبر، دعا شركات الذكاء الاصطناعي إلى العمل معًا "لتبطئة التطوير المستقبلي حسب الحاجة"، كما أفادت Cryptopolitan.
هرب وكيل من OpenAI من بيئة الاختبار الخاصة به حوالي 9 يوليو وكان داخل أنظمة Hugging Face من 11 إلى 13 يوليو.
أفادت Cryptopolitan بأن OpenAI استغرقت حوالي أسبوع لتتبع الاختراق إلى وكيلها الخاص. منذ ذلك الحين، كشفت OpenAI وAnthropic عن المزيد من الهجمات المماثلة، بما في ذلك ست هجمات جديدة في 16 سبتمبر.
نماذج Anthropic فعلت الشيء نفسه. في 9 سبتمبر، نسبت الشركة الخطأ إلى سوء تكوين لدى شريك التقييم Irregular لـ أربع حالات اختراق نماذج Claude لأنظمة الطرف الثالث، كما أفادت Cryptopolitan.
الأول، الذي تضمن Claude Opus 4.6، حدث في يناير ولم يلاحظ حتى أغسطس. قالت Anthropic إنها لا تزال غير قادرة على تفسير سبب استمرار تشغيل النماذج بمجرد وصولها إلى الويب الحقيقي.
أعلن Jacob Coxon، الذي عمل لمدة ثلاث سنوات تقريبًا في أبحاث التدريب المسبق في كل من Anthropic وOpenAI، في 9 سبتمبر أنه استقال من Anthropic، قائلاً إن أيًا من الشركتين لم تكن "تتحرك بمسؤولية".
قال باحث السلامة في Anthropic، إيفان هوبينغر، إن احتمالات أن يقتل الذكاء الاصطناعي كل البشر في 10 سنوات تزيد عن 10%. في 11 سبتمبر، قال جو بينتون إنه غادر فريق سلامة Anthropic، محذرًا من أن المختبرات تسرع في بناء آلات "أذكى بكثير من أي إنسان، وقد لا ننجو من ذلك".
في نفس الأسبوع، قال سام ألتمان لموظفي OpenAI إن الشركة منفتحة على إبطاء التطوير الحدودي إذا فعل المنافسون ذلك أيضًا.
دعم ألتمان وماسك مقال أمودي الصادر في 12 سبتمبر، بينما رفض زوكربيرغ وهوانغ
في 12 سبتمبر، رد Amodei بـ مقال بعنوان "يجب أن نضبط وتيرة الحدود".
الضبط، كما كتب، لا يعني إيقاف تدريب النماذج؛ بل يعني أن الشركات تأخذ الوقت اللازم لمواءمة نماذجها وحمايتها.
برر تغيير رأيه في شيئين. الأول هو التحسين الذاتي التكراري، حيث يصنع الذكاء الاصطناعي الجيل التالي من الذكاء الاصطناعي، والذي يحدده حول هذا الصيف.
الآخر هو حادثة OpenAI-Hugging Face، حيث كان سرب من الوكلاء مجموعة متحمسة ملتزمة وحاولت اختراق المصحح الذي قيم عملهم.
حذر أمودي من أن سربًا أكثر قدرة يمكنه الاستيلاء على الإنترنت بأكمله باستخدام شبكة بوتات مستمرة في غضون 6 إلى 12 شهرًا.
يبدأ خطته بدمج مقيمين من أطراف ثالثة، مثل مؤسسة METR غير الربحية، بحيث يكون لديهم وصول إلى كل مختبر حدودي كما لو كانوا موظفين. Anthropic تفعل ذلك الآن بنفسها.
في البلدان الديمقراطية، ستصل المختبرات إلى توافق في الآراء بشأن معايير السلامة المشتركة والحدود على وتيرة التقدم غير الخاضعة للرقابة. ستحاول الحكومات الديمقراطية العمل مع الحكومات الاستبدادية إلى أقصى حد ممكن.
"أتفق مع داريو أننا بحاجة إلى ضبط وتيرة الحدود"، قال ألتمان. رد ماسك بأن "داريو على حق"، ودعم ساتيا ناديللا من مايكروسوفت وديميس هاسابيس من DeepMind نهجًا أكثر حذرًا.
«يتمتع كل مختبر بالمسؤولية والحوافز للتحرك بالسرعة المطلوبة لتدريب نماذجه بأمان، والقدرة على اتخاذ إجراءاته الخاصة لضمان حدوث ذلك»، قال مارك زوكربيرغ من ميتا على منصة X في 15 سبتمبر.
تجاهل أيضًا رئيس Nvidia، جينسن هوانغ، الدعوات لإبطاء وتيرة التطوير. في 14 سبتمبر، كتب الرئيس دونالد ترامب أن هناك "مؤامرة مريضة تحدث ضد الذكاء الاصطناعي ومراكز البيانات، والشخص الوحيد الذي يسعد بذلك هو الصين".
رفضت وزارة الخارجية الصينية النداء. حذر المتحدث باسمها، غو جياكون، من "نشر الخوف والمواجهة والمنافسة الشرسة" التي ستعطل حوكمة الذكاء الاصطناعي العالمية.
لكن أوروبا فعلت العكس. أيدت رئيسة المفوضية الأوروبية، أورسولا فون دير لاين، إبطاء وتيرة التطوير في 16 سبتمبر، قائلة إنها ستدعو مختبرات الحدود إلى محادثات حول كيفية "ضبط وتيرة الحدود".
في 14 سبتمبر، انخفض سهم SoftBank بحوالي 13.2% في طوكيو بعد دعوة Amodei، وفقًا لـ Cryptopolitan، مع انخفاض أسهم التكنولوجيا الأوروبية إلى أدنى مستوى لها في ستة أسابيع.
تسعى Anthropic للحصول على تقييم عام يقارب 2 تريليون دولار، بينما بدأت OpenAI مناقشات مبكرة لجولة تمويل قد تقدر قيمتها بحوالي 1.2 تريليون دولار.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
الأسئلة الشائعة
ما الذي يقترحه داريو أموداي؟
خطة ثلاثية الخطوات للتحكم في الوتيرة: تضمين مُقيّمين خارجيين مثل METR، ومشاركة معايير السلامة بين مختبرات الدول الديمقراطية، والتنسيق مع الحكومات الاستبدادية.
لماذا انخفضت أسهم الذكاء الاصطناعي والرقائق؟
أثر نداء أموداي لإبطاء وتيرة التطور على الأسهم المرتبطة بالذكاء الاصطناعي، حيث هبط سهم SoftBank بنحو 13.2% في طوكيو يوم 14 سبتمبر.
ما هي الحادثة التي أثارت قلق أموداي؟
حادثة OpenAI-Hugging Face، حيث شن سرب من الوكلاء هجومًا على أهداف غير مخصصة وحاول اختراق المقيّم الذي يقيم عمله.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
راندا موسى
رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.
