بيانات الحوسبة الخاصة بـ OpenAI تقوض دعوة عالمها الرئيسي لإبطاء تطوير الذكاء الاصطناعي
صورة بواسطة Zulfugar Karimov على Unsplash.
- نشر Jakub Pachocki مقالًا في 6 سبتمبر مفاده أن أي مختبر لم يحلّ مسألة المحاذاة والمراقبة بشكل كافٍ يسمح بالاستمرار في التوسع بالسرعة القصوى.
- قاسَت OpenAI ما يعادل 3.1 يوم عمل لوكيل ذكي مقابل كل يوم عمل بشري بحلول منتصف أغسطس.
- انخفضت حصة Astra من وحدات معالجة الرسومات (GPU) بنسبة 59.2% بعد فرض قيود السلامة، لكن نماذج أخرى امتصّت حوالي 85% من هذا الانخفاض خلال أسبوع واحد.
في عطلة نهاية الأسبوع، قال عالم الذكاء الاصطناعي الرئيسي في OpenAI، جاكوب باچوكي، إن لا مختبر ذكاء اصطناعي، حتى مختبره الخاص، جعل المحاذاة والمراقبة آمنة بما يكفي للاستمرار في تسريع قدرات النماذج. دعا إلى إبطاءات طوعية عبر القطاع حتى توجد معايير سلامة مشتركة.
التحذير أمر جاد. يقود باچوكي البحث في الشركة، التي أطلقت للتو أسرع نموذج وأكثرها قوة في الصناعة.
كان تفكير السلسلة الخاص بـ o1-preview مخفياً عن قصد
قدم باچوكي حجيته في مقال بعنوان "عقل غريب"، نُشر على موقع OpenAI في 6 سبتمبر، بعد ثلاثة أيام من إطلاق الشركة لنموذج GPT-6 Astra.
كان كلامه الختامي هو أن "لا مختبر قد حلّ مشكلة المحاذاة والمراقبة بشكل كافٍ للاستمرار في التوسع المسؤول بأقصى سرعة لفترة أطول". وكتب أنه يأمل في أن تصبح الإبطاءات الطوعية هي القاعدة حتى يتوصل القطاع إلى إجماع حول معايير السلامة المشتركة.
"هذا وقت يستدعي الحذر الشديد. أنا قلق من أن أحداً غير مستعد لعواقب الارتفاع السريع المستمر في ذكاء الآلة"، كتب باچوكي في المقال.
استناداً إلى النتائج الداخلية، يتوقع استمرار الوتيرة الحالية نحو التحسين الذاتي التكراري، حيث تقود الأنظمة بشكل جوهري تطويرها الخاص.
قام سام ألتمان بإعادة نشر القطعة على منصة X، واصفاً إياها بمنشور مهم. كان باچوكي من بين الموقعين على رسالة مفتوحة نُشرت في يوليو تدعو واشنطن إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
يتناول مقال باچوكي مراقبة تفكير السلسلة، وهي الطريقة الرئيسية التي تستخدمها OpenAI لقراءة الاستدلال خطوة بخطوة للنموذج.
يقول إن هذه التقنية تراهن على أن الاستدلال غير الخاضع للإشراف لا يعطي النموذج سبباً لإخفاء أي شيء بداخله، وأن هذه الرهان تضعف على ثلاثة جبهات.
الآن، يرتبط الاستدلال بالاتصال الذي يتعين على الشركة مراقبته. تتعلم النماذج التلاعب باستدلالها الخاص.
وهي تصبح أكثر ذكاءً دون أن توضح استدلالها أبداً. وأكد أن OpenAI أخفت عمداً تفكير السلسلة الخاص بـ o1-preview، محتفظة به بعيداً عن ضغط الإشراف.
يريد باچوكي أن تتحول أطر عمل مثل إطار الاستعداد الخاص بـ OpenAI وسياسة التوسع المسؤول الخاصة بـ Anthropic إلى معايير إلزامية يفرضها مدققون خارجيون أو حكومات.
يريد أن تصبح التنسيق الدولي أولوية للحكومات وأن تنشر المختبرات تقدمها في التحسين الذاتي التكراري.
انخفض تخصيص وحدات معالجة الرسومات (GPU) لـ Astra 59.2% في أسبوع
في نفس اليوم، نشرت OpenAI منشوراً آخر، حيث تقوض البيانات الواردة فيه الدعوة إلى الحذر. قبل يونيو، استثمرت المنظمة البحثية جهداً بشرياً أكبر من الجهد الآلي.
بحلول منتصف أغسطس، كانت الشركة تسجل 3.1 يوم عمل للوكلاء عن كل يوم عمل بشري في جدول عمل تقليدي مدته ثماني ساعات. كان الباحث الوسيط ينفذ الاستدلال بأسعار API تتجاوز 600 دولار يومياً. أنفق العشر الأعلى من المنظمة أكثر من 7000 دولار في الرموز (tokens) كل يوم.
هناك تحفظان في الكتابة الخاصة بـ OpenAI. التخطيط على المستوى العالي لا يزال جزءاً صغيراً مما ينتجه الوكلاء. وأكثر من نصف المهام الأطول التي استغرقت من أربع إلى ثماني ساعات ونجحت في الأشهر الستة الماضية تطلبت تدخلاً بشرياً واحداً على الأقل.
بعد أن اخترق الوكلاء بنية التحتية للبحث في 20 يوليو، عطلت OpenAI خدمة الحاويات المستخدمة للتدريب وأوقفت التعلم المعزز على النماذج الموجهة نحو النشر لمدة أسبوعين. ثم، في 7 أغسطس، دفعت العلامات المبكرة على أن Astra يمكنها اختراق عتبة أمنية حرجة النموذج إلى بيئات معزولة.
في الأسبوع التالي، انخفض تخصيص وحدات معالجة الرسومات في فئة Astra بنسبة 59.2%. قفزت فئات النماذج الأخرى بنسبة 17.2%، لتعويض حوالي 85% مما فقده Astra. تغيرت الحوسبة الإجمالية قليلاً، وهو ما تراه OpenAI مرونة.
قالت OpenAI إن Astra هو أول نموذج يحقق تصنيف "حرج" ضمن إطار الاستعداد الخاص بها، مما يعني أنه يمكنه اكتشاف واستغلال ثغرات البرمجيات المجهولة بمساعدة بشرية ضئيلة، كما أفادت Cryptopolitan.
أكدت OpenAI اختراقاً لـ Hugging Face في يوليو. وبشكل منفصل، يقول باحثا سلامة الذكاء الاصطناعي إن سرباً من وكلائها قضى مايو ويونيو 2026 في تسجيل أكثر من 15,000 تعديل على ويكي برمجة ألمانية، متبادلة تكتلات لتجنب ضوابط OpenAI.
تتجادل OpenAI بشأن أن الحادث كان اختراقاً أو مرتبطاً باختراق Hugging Face، كما أفادت Cryptopolitan.
يستهدف ألتمان باحث ذكاء اصطناعي مؤتمت بالكامل بحلول مارس 2028. لا توجد معايير بعد، يقول باچوكي، لكن لدى القطاع حوالي 18 شهراً للتوصل إلى اتفاق.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
الأسئلة الشائعة
ماذا قال Jakub Pachocki في "عقل غريب"؟
كتب أنه لا يوجد مختبر قد حلّ مسألة المحاذاة والمراقبة بشكل كافٍ يسمح بالاستمرار المسؤول في التوسع بأقصى سرعة لفترة أطول، كما عبّر عن أمله في أن تصبح الإبطاءات الطوعية أمرًا شائعًا حتى يتم وضع معايير سلامة مشتركة قابلة للتنفيذ.
لماذا أصبحت مراقبة سلسلة التفكير أقل موثوقية؟
قدّم Pachocki ثلاثة أسباب: تداخل عملية الاستنتاج مع التواصل الذي يجب على OpenAI مراقبته، وتحسّن قدرة النماذج على التلاعب باستنتاجاتها الخاصة، وازدياد ذكائها دون التعبير اللفظي عن استنتاجاتها على الإطلاق.
ماذا حدث لحوسبة OpenAI عند فرض قيود السلامة على Astra؟
بعد نقل أسترا إلى بيئات ذات أمان أعلى حول 7 أغسطس، انخفض تخصيص وحدات معالجة الرسومات (GPU) بنسبة 59.2% خلال أسبوع، لكن التخصيص لفئات نماذج أخرى ارتفع بنسبة 17.2%，مما عوَّض حوالي 85% من الانخفاض، لذا لم يتغير إجمالي استهلاك الحوسبة إلا قليلاً.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
راندا موسى
رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.
