تقوض بيانات الحوسبة الخاصة بشركة OpenAI دعوة كبير علمائها إلى إبطاء الذكاء الاصطناعي

صرح كبير علماء OpenAI، جاكوب باتشوكي، خلال عطلة نهاية الأسبوع، بأنه لم ينجح أي مختبر للذكاء الاصطناعي، ولا حتى مختبره، في جعل عملية المحاذاة والمراقبة آمنة بما يكفي لمواصلة تسريع قدرات النماذج. ودعا إلى تباطؤ طوعي في جميع أنحاء القطاع حتى يتم وضع معايير سلامة مشتركة.

هذا التحذير أمرٌ في غاية الجدية. يقود باتشوكي قسم الأبحاث في الشركة، التي أطلقت للتو أسرع وأقوى طراز في هذا المجال.

تم إخفاء سلسلة أفكار o1-preview عمداً

قدم باتشوكي قضيته في مقال بعنوان "عقل غريب"، نُشر على موقع OpenAI الإلكتروني في 6 سبتمبر، بعد ثلاثة أيام من إطلاق الشركة لـ GPT-6 Astra.

وكانت عبارته الختامية هي أنه "لم ينجح أي مختبر في حل مشكلة المحاذاة والمراقبة بدرجة كافية لمواصلة التوسع بمسؤولية وبأقصى سرعة لفترة أطول". وكتب أنه يأمل أن تصبح عمليات التباطؤ الطوعية هي القاعدة حتى يتوصل القطاع إلى توافق في الآراء بشأن معايير السلامة المشتركة.

"هذا وقت يتطلب حذرًا شديدًا. أشعر بالقلق من أن لا أحد مستعد لعواقب الارتفاع السريع المستمر في الذكاء الاصطناعي"، كتب باتشوكي في المقال.

وبناءً على النتائج الداخلية، يتوقع أن يستمر الوتيرة الحالية في التحسين الذاتي المتكرر، حيث تقود الأنظمة تطورها بشكل هادف.

سام ألتمان نشر المقال على موقع X، واصفًا إياه بأنه منشور مهم. وكان باتشوكي من بين الموقعين على رسالة مفتوحة نُشرت في يوليو/تموز تدعو واشنطن إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.

تتناول مقالة باتشوكي مراقبة سلسلة الأفكار، وهي الطريقة الرئيسية التي تستخدمها OpenAI لقراءة التفكير خطوة بخطوة للنموذج.

ويقول إن هذه التقنية تراهن على أن الاستدلال غير الخاضع للإشراف لا يعطي النموذج أي سبب لإخفاء أي شيء بداخله، وهذا الرهان يضعف على ثلاثة جبهات.

أصبح التفكير الآن مقترناً بالتواصل الذي يتعين على الشركة مراقبته. وتتعلم النماذج كيفية التلاعب بمنطقها الخاص.

وتزداد ذكاءً دون أن تفصح عن منطقها. وقد أكد أن شركة OpenAI أخفت عمداً تسلسل أفكار برنامج o1-preview، مما أبقاه بمنأى عن ضغوط الإشراف.

يريد باتشوكي تحويل أطر العمل مثل إطار الاستعداد الخاص بـ OpenAI وسياسة التوسع المسؤول الخاصة بـ Anthropic إلى معايير إلزامية يتم تطبيقها من قبل مدققين خارجيين أو حكومات.

يريد أن يصبح التنسيق الدولي أولوية حكومية وأن تنشر المختبرات التقدم الذي أحرزته في مجال التحسين الذاتي المتكرر.

انخفض تخصيص وحدة معالجة الرسومات في أسترا بنسبة 59.2% في أسبوع واحد

في اليوم نفسه، نشرت OpenAI منشورًا ثانيًا ، تُفنّد بياناته الدعوات إلى ضبط النفس. قبل شهر يونيو، استثمرت المنظمة البحثية جهدًا بشريًا أكبر من الجهد الآلي.

بحلول منتصف أغسطس، كانت الشركة تسجل 3.1 يوم عمل للوكلاء مقابل كل يوم عمل بشري وفقًا لنظام الساعات الثماني التقليدي. وكان الباحث المتوسط ​​يُجري عمليات الاستدلال بأسعار واجهة برمجة التطبيقات (API) التي تتجاوز 600 دولار يوميًا. أما أفضل عُشر موظفي الشركة، فقد أنفقوا أكثر من 7000 دولار من الرموز المميزة يوميًا.

هناك ملاحظتان في تقرير OpenAI نفسه. أولاً، لا يزال التخطيط عالي المستوى يمثل جزءًا صغيرًا مما ينتجه الوكلاء. ثانيًا، أكثر من نصف المهام الطويلة التي استغرقت من أربع إلى ثماني ساعات والتي تم إنجازها خلال الأشهر الستة الماضية تطلبت تدخلًا بشريًا واحدًا على الأقل.

بعد اختراق عملاء لبنيتها التحتية البحثية في 20 يوليو، قامت OpenAI بتعطيل خدمة الحاويات المستخدمة للتدريب، وأوقفت التعلم المعزز على النماذج المخصصة للنشر لمدة أسبوعين. ثم، في 7 أغسطس، دفعت المؤشرات المبكرة على إمكانية اختراق Astra لعتبة أمنية حرجة، النموذج إلى العمل في بيئات معزولة.

في الأسبوع التالي، انخفض تخصيص وحدات معالجة الرسومات (GPUs) لفئة أسترا بنسبة 59.2%. في المقابل، ارتفع تخصيصها لفئات النماذج الأخرى بنسبة 17.2%، ما يمثل نحو 85% مما خسرته أسترا. لم يطرأ تغيير يُذكر على إجمالي القدرة الحاسوبية، وهو ما تعتبره OpenAI مؤشراً على المرونة.

ذكرت شركة OpenAI أن Astra هو أول نموذج لها يحقق تصنيف "حرج" بموجب إطار الاستعداد الخاص بها، مما يعني أنه يمكنه العثور على نقاط الضعف البرمجية غير المعروفة واستغلالها بمساعدة بشرية قليلة، Cryptopolitan .

أكدت شركة OpenAI اختراق نظام Hugging Face في يوليو/تموز. وفي سياق منفصل، أفاد باحثان في مجال سلامة الذكاء الاصطناعي بأن مجموعة من برامجها الآلية قامت خلال شهري مايو/أيار ويونيو/حزيران 2026 بتسجيل أكثر من 15 ألف تعديل على موقع ويكي برمجي ألماني، مستخدمةً أساليب مختلفة للتحايل على إجراءات الحماية التي توفرها OpenAI.

أفادت مجلة Cryptopolitan أن شركة OpenAI تنفي أن يكون الحادثdent أو مرتبطًا باختراق Hugging Face

يستهدف ألتمان باحثًا في مجال الذكاء الاصطناعي مؤتمتًا بالكامل بحلول مارس 2028. ويقول باتشوكي إنه لا توجد معايير حتى الآن، ولكن أمام الصناعة حوالي 18 شهرًا للتوصل إلى اتفاق.