تساعد شرائح Nvidia H20 وH200 في تشغيل نموذج ذكاء اصطناعي تم تدريبه بالكامل على مجموعات بيانات صناعية صينية
-
درّبت تسينغهوا ومايكروسوفت نموذجاً كاملاً للبرمجة بالذكاء الاصطناعي باستخدام بيانات اصطناعية فقط، دون أي مدخلات من العالم الحقيقي في أي مرحلة.
-
استخدم النموذج شرائح Nvidia H20 وH200، وتفوق على نماذج البرمجة الأكبر حجمًا رغم امتلاكه عددًا أقل من المعاملات وبيانات أقل.
-
كشفت الصين أيضًا عن شريحة ACCEL المعتمدة على الضوء، التي حققت 4.6 PFLOPS مع استهلاك طاقة أقل بملايين المرات مقارنة بشرائح الذكاء الاصطناعية الحالية.
درست جامعة تسينغهوا وبحث مايكروسوفت آسيا نموذج ذكاء اصطناعي كامل باستخدام بيانات مزيفة فقط. لا عينات من العالم الحقيقي على الإطلاق.
تم إنشاء مجموعة البيانات بأكملها اصطناعيًا من خلال خط أنابيب جديد يسمى SynthSmith، ونُفذ النظام على شرائح Nvidia من البداية إلى النهاية. لم يقم الفريق فقط بإجراء اختبار غريب، بل بنوا نموذجًا يعمل بـ 7 مليارات معلمة تفوق نماذج أكبر بكثير تم تدريبها على بيانات بشرية.
يدعي ورقتهم، المنشورة في 11 يناير على arXiv، أن X-Coder الذي دربوه تفوق على نماذج البرمجة ذات 14 مليار معلمة، على الرغم من أنه لم ير نصوصًا من العالم الحقيقي مطلقًا.
«يكشف التحليل المعمق أن قوانين القياس تنطبق على مجموعة البيانات الصناعية الخاصة بنا»، كتب الباحثون. تضمن هذا الفريق أسماء من جامعة تسينغهوا، وبحث مايكروسوفت آسيا، وجامعة ووهان.
باحثون يستخدمون شرائح Nvidia لتخطي بيانات العالم الحقيقي تمامًا
اعتمد إعداد التدريب بشدة على عتاد Nvidia. للتدريب الدقيق الخاضع للإشراف، استخدموا 128 شريحة Nvidia H20 لمدة 220 ساعة متواصلة. بعد ذلك، انتقلوا إلى 32 شريحة H200 لمدة سبعة أيام كاملة أخرى للتعامل مع مرحلة التعلم المعزز. لم تكن هذه اختيارات عشوائية. الشريحة H20 مهيأة للاستنتاج، وH200 مبنية للتدريب عالي المستوى. هذه هي أقوى الشرائح المتاحة للشركات الصينية حاليًا، بفضل إعفاءات التحكم في الصادرات التي وافقت عليها إدارة ترامب بعد ضغط قوي من Nvidia لجعلها متاحة في الصين.
قال الباحثون إن خط الأنابيب نفسه لم يكن المشكلة عندما يتعلق الأمر بالتوسع. كان الأمر كله يتعلق بقوة الحوسبة.
قال وو جيه، المؤلف الرئيسي وطالب ماجستير في تسينغهوا، إن السبب الحقيقي وراء عدم قيامهم بنقل خط الأنابيب إلى نماذج بمليارات أو تريليونات المعلمات كان ببساطة، «قيود الحوسبة، وليس قيود خط الأنابيب نفسه».
من خلال نشر الكود علنًا، يأمل الآخرون في بناء المشروع دون الحاجة إلى دفع تكاليف تدريب هائلة. يشير الورقة أيضًا إلى اتجاه في الذكاء الاصطناعي.
من المتوقع الآن أن «تفكر» النماذج على فترات زمنية أطول وتتعامل مع الاستدلال المعقد، مما دفع الحاجة إلى المزيد من الحوسبة أثناء الاستنتاج، وليس فقط أثناء التدريب.
فريق صيني يبني شريحة أسرع باستخدام تقنية تصنيع قديمة
بشكل منفصل، تم بناء شريحة جديدة تسمى ACCEL بواسطة علماء صينيين باستخدام جسيمات الضوء، وليس الكهرباء. الشريحة (اختصار لـ شريحة تناظرية بالكامل تجمع بين الإلكترونيات والضوء) تم اختبارها في المختبر وحققت 4.6 PFLOPS.
هذا أسرع 3,000 مرة من A100 من Nvidia، واستخدمت الشريحة الصينية طاقة أقل بمليون مرة. هذا يجعلها واحدة من أكثر شرائح AI كفاءة على الإطلاق لمهام محددة مثل التعرف على الصور أو القيادة الذاتية.
لن تحل محل وحدات المعالجة المركزية أو شرائح الهواتف الذكية بعد، لكن الفريق يعتقد أنها قد تعمل في الأجهزة القابلة للارتداء، والمركبات الكهربائية، أو المصانع الذكية.
تم بناء الشريحة باستخدام عملية عمرها 20 عامًا من قبل شركة تصنيع أشباه الموصلات الدولية (SMIC). تجنب الحاجة إلى آلات الطباعة الضوئية المتقدمة التي لا تزال الصين لا تستطيع الوصول إليها.
«كان نشر أنظمة الحوسبة الضوئية يمثل تحديًا بسبب التصميم الهيكلي المعقد والحساسية للضوضاء وأخطاء النظام»، قالت جامعة تسينغهوا في مقال.
تتجنب الشريحة هذا من خلال الجمع بين الإلكترونيات الضوئية والتناظرية في إطار عمل جديد. لا تتعامل مع مهام الحوسبة العامة مثل ضغط الملفات، لكنها رائعة لرؤية AI والاستشعار في الإضاءة المنخفضة.
تفاصيل جنونية واحدة: الطاقة التي تستغرقها تشغيل الشرائح الحديثة لمدة ساعة يمكن أن تبقي ACCEL يعمل لمدة 500 عام. يجعل هذا الطلب المنخفض على الطاقة أيضًا التعامل مع مشاكل الحرارة أسهل، مما يحد من مدى صغر حجم الشرائح.
تشمل وظائف الشريحة تحديد حركة المرور، والتصوير في الإضاءة المنخفضة، والرؤية في الوقت الفعلي، باستخدام الضوء المحيط مباشرة في عملية الاستشعار. قال الفريق إنها ليست شريحة ذات غرض عام، لكنها تفي بحاجة محددة جدًا.
جاء التمويل من البرنامج الوطني للبحث والتطوير الرئيسي ومن المؤسسة الوطنية الصينية للعلوم الطبيعية. شاركت شركة بكين لتصنيع الرقائق تُدعى MakeSens، التي أسسها أحد الباحثين، وأطلقت مؤخراً رقائقا تناظرية منخفضة الطاقة أيضاً.
قال داي تشيونغهاي من جامعة تسينغهوا، أحد قادة المشروع، إن بناء بنية حاسوبية جديدة كان مجرد الخطوة الأولى.
"التحدي الأهم هو نقل هذه البنية الجديدة إلى تطبيقات عملية، وحل الاحتياجات الوطنية والعامة الكبرى، وهو ما يمثل مسؤوليتنا."
لم يوضح الفريق أي شيء حول موعد طرح هذا الشريحة في السوق.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
جاي حميد
جاي حميد تغطي منذ 6 سنوات عملات الكريبتو، والأسواق المالية، والتكنولوجيا، والاقتصاد العالمي، والأحداث الجيوسياسية التي تؤثر في الأسواق. عملت مع منشورات تركز على البلوكشين بما فيها AMB Crypto وCoin Edition وCryptoTale في تحليلات السوق والشركات الكبرى والتنظيم والاتجاهات الكلية الاقتصادية. درست في مدرسة لندن للصحافة، وقدمت رؤى حول أسواق الكريبتو ثلاث مرات على أحد أفضل شبكات التلفزيون في أفريقيا.
