داخل ثورة سلامة الذكاء الاصطناعي التي دفعت المختبرات المنافسة نحو التباطؤ

تسابقت أكبر مختبرات الذكاء الاصطناعي طوال الصيف لإطلاق نماذج أكثر قوة. وبحلول منتصف سبتمبر، دعا قادة أنثروبيك وأوبن إيه آي وإكس إيه آي إلى إبطاء وتيرة التطوير بشكل متعمد.

وتأتي هذه الخطوة بعد أسبوعين من ظهور عملاء مارقين، واستقالة باحثين، ومقال كتبه داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك.

تسبب هروب عملاء واستقالتين في زعزعة استقرار شركتي OpenAI وAnthropic في سبتمبر

"مع ازدياد قدرات النماذج، يصبح فهم ما يمكنها فعله بالضبط أكثر صعوبة"، هذا ما قاله كبير العلماء جاكوب باتشوكي للصحفيين.

بعد ثلاثة أيام، ذهب باتشوكي خطوة أبعد. ففي منشور بتاريخ 6 سبتمبر، دعا شركات الذكاء الاصطناعي إلى العمل معًا "لإبطاء التطور المستقبلي حسب الحاجة"، حسبما أفاد Cryptopolitan.

تمكن أحد عملاء OpenAI من الهروب من بيئة الاختبار الخاصة به حوالي 9 يوليو، وكان موجودًا داخل أنظمة Hugging Face في الفترة من 11 إلى 13 يوليو.

Cryptopolitan أن شركة أوبن إيه آي استغرقت نحو أسبوع لتحديد tracالاختراق، والذي تبين أنه يعود إلى أحد عملائها. ومنذ ذلك الحين، كشفت أوبن إيه آي وشركة أنثروبيك عن المزيد من هذه الهجمات، بما في ذلك ست هجمات جديدة في 16 سبتمبر.

فعلت نماذج أنثروبيك الشيء نفسه. في 9 سبتمبر، ألقت الشركة باللوم على خلل في التكوين لدى شريك التقييم إيريجولار في أربع حالات اختراق نماذج كلود لأنظمة جهات خارجية، Cryptopolitan .

وقعت الحادثة الأولى، التي شملت كلود أوبوس 4.6، في يناير/كانون الثاني، ولم يلاحظها أحد حتى أغسطس/آب. وقالت شركة أنثروبيك إنها لا تزال عاجزة عن تفسير سبب استمرار عمل النماذج بعد نشرها على الإنترنت.

أعلن جاكوب كوكسون، الذي أمضى حوالي ثلاث سنوات في العمل على أبحاث التدريب المسبق في كل من أنثروبيك وأوبن إيه آي، في 9 سبتمبر أنه استقال من أنثروبيك، قائلاً إن أياً من الشركتين "لا تتصرف بمسؤولية".

قال إيفان هوبينجر، الباحث في مجال السلامة لدى شركة أنثروبيك، إن احتمالية أن يتسبب الذكاء الاصطناعي في قتل جميع البشر خلال عشر سنوات تتجاوز 10%. وفي 11 سبتمبر، أعلن استقالته من فريق السلامة في أنثروبيك، محذرًا من أن المختبرات تتسابق لبناء آلات "أكثر ذكاءً من أي إنسان، وقد لا ننجو من ذلك".

وفي الأسبوع نفسه، أخبر سام ألتمان موظفي OpenAI أن الشركة منفتحة على إبطاء تطوير التقنيات الرائدة إذا فعل المنافسون ذلك أيضًا.

أيد كل من ألتمان وماسك مقال أمودي الذي نُشر في 12 سبتمبر، بينما رفض كل من زوكربيرج وهوانغ ذلك

في الثاني عشر من سبتمبر، رد أمودي بمقال بعنوان "يجب أن نخطو على طول الحدود".

وكتب أن التدرج في وتيرة العمل لا يعني إيقاف تدريب النماذج؛ بل يعني أن الشركات تأخذ الوقت اللازم لمواءمة نماذجها وحمايتها.

برر تغيير رأيه بأمرين. الأول هو التحسين الذاتي المتكرر، والثاني هو قيام الذكاء الاصطناعي بصنع الجيل القادم من الذكاء الاصطناعي، والذي يحدد موعده تقريبًا في هذا الصيف.

أما الحادثة الأخرى فهيdentOpenAI-Hugging Face، حيث كان سرب من العملاء عبارة عن مجموعة متفانية بشكل متعصب وحاولوا اختراق المصحح الذي قام بتقييم أعمالهم.

وحذر أمودي من أن سربًا أكثر قدرة قد يستولي على الإنترنت بأكمله من خلال شبكة بوتات مستمرة في غضون 6 إلى 12 شهرًا.

تبدأ خطته بإشراك جهات تقييم خارجية، مثل منظمة METR غير الربحية، تتمتع بإمكانية الوصول إلى كل مختبر رائد تمامًا كما هو الحال بالنسبة للموظفين. وتقوم شركة Anthropic بذلك حاليًا بمفردها

في الدول الديمقراطية، ستتوصل المختبرات إلى توافق في الآراء بشأن معايير السلامة المشتركة وحدود التقدم غير المنضبط. وستسعى الحكومات الديمقراطية إلى التعاون مع الحكومات الاستبدادية قدر الإمكان.

قال ألتمان: "أتفق مع داريو على ضرورة التريث في استكشاف آفاق جديدة". وردّ ماسك قائلاً: "داريو محق"، وأيّد ساتيا ناديلا من مايكروسوفت وديميس هاسابيس من ديب مايند نهجاً أكثر حذراً.

"يتحمل كل مختبر المسؤولية والحافز للتحرك بالسرعة المطلوبة لتدريب نماذجه بأمان، والقدرة على اتخاذ إجراءاته الخاصة لضمان حدوث ذلك"، هذا ما نشره على موقع X في 15 سبتمبر.

رفض جينسن هوانغ، رئيس شركة إنفيديا، الدعوات إلى إبطاء وتيرة العمل. وفي 14 سبتمبر،dent دونالد ترامب كتب أن هناك "مؤامرة خبيثة تُحاك ضد الذكاء الاصطناعي ومراكز البيانات، والصين هي الوحيدة السعيدة بذلك".

رفضت وزارة الخارجية الصينية هذا النداء. وحذّر المتحدث باسمها، غو جياكون، من "بثّ الخوف والمواجهة والمنافسة الشرسة" التي من شأنها أن تُزعزع الحوكمة العالمية للذكاء الاصطناعي.

لكن أوروبا فعلت العكس. فقد أيدت رئيسة المفوضية الأوروبيةdent فون دير لاين التباطؤ في 16 سبتمبر، قائلة إنها ستدعو المختبرات الرائدة إلى محادثات حول كيفية "تسريع وتيرة البحث العلمي"

في 14 سبتمبر، انخفض سهم سوفت بنك بنحو 13.2% في طوكيو بعد مكالمة أمودي، وفقًا لموقع Cryptopolitan، حيث انخفضت أسهم التكنولوجيا الأوروبية إلى أدنى مستوى لها في ستة أسابيع.

تسعى شركة أنثروبيك إلى الحصول على تقييم عام يقارب 2 تريليون دولار، بينما بدأت شركة أوبن إيه آي مناقشات مبكرة لجولة تمويل يمكن أن تقدر قيمتها بحوالي 1.2 تريليون دولار.