أعلن إيلون ماسك رسميًا بدء تدريب GROK 3 في مركز الحوسبة العملاقة في ممفيس، والمجهز بوحدات معالجة الرسومات H100 من الجيل الحالي لشركة NVIDIA. وقد بدأ المركز، الذي وصفه ماسك بأنه "أقوى مجموعة تدريب للذكاء الاصطناعي في العالم"، العمل يوم الاثنين بمساعدة 100 ألف وحدة معالجة رسومات H100 مبردة بالسوائل على شبكة RDMA واحدة.
كان من المقرر إجراء التدريب في تمام الساعة 4:20 صباحًا بالتوقيت المحلي في ممفيس. وفي تغريدة لاحقة، صرّح ماسك بأنه من الممكن تطوير "أكثر أنظمة الذكاء الاصطناعي تطورًا في العالم" بحلول ديسمبر من هذا العام. كما غرد ماسك أيضًا حول هذا الإنجاز على منصة X، وهنأ فرق xAI وX وNVIDIA على عملهم المتميز.
عمل رائع من فريق @xAI وفريق @X @Nvidia والشركات الداعمة، حيث بدأ تدريب مجموعة Memphis Supercluster في حوالي الساعة 4:20 صباحًا بالتوقيت المحلي.
— إيلون ماسك (@elonmusk) 22 يوليو 2024
بفضل 100 ألف معالج H100 مُبرّد بالسوائل على شبكة RDMA واحدة، تُعدّ هذه المجموعة أقوى مجموعة تدريب للذكاء الاصطناعي في العالم!
شركة xAI تغير استراتيجيتها وتلغي صفقة خوادم أوراكل
يأتي هذا الإعلان في أعقاب إلغاء صفقة خوادم بقيمة 10 مليارات دولار بين شركتي xAI وأوراكل. وأشار ماسك إلى أن مصنع الحوسبة العملاق التابع لشركة xAI، والذي كان من المتوقع أن يبدأ تشغيله بحلول خريف عام 2025، قد بدأ عملياته قبل الموعد المحدد.
كانت شركة xAI قد استعانت سابقًا بشركة أوراكل لتزويدها برقائق الذكاء الاصطناعي، لكنها قررت إنهاء هذا التعاون لتطوير حاسوبها العملاق المتطور. ويخطط المشروع الآن للاستفادة من إمكانيات وحدات معالجة الرسومات H100 المتطورة، والتي يبلغ سعر الواحدة منها حوالي 30 ألف دولار. استخدم مشروع GROK 2 عشرين ألف وحدة معالجة رسومات، بينما احتاج مشروع GROK 3 إلى خمسة أضعاف هذا العدد لبناء روبوت محادثة أكثر تطورًا يعمل بالذكاء الاصطناعي.
اقرأ أيضاً: إيلون ماسك يستطلع آراء الجمهور حول استثمار بقيمة 5 مليارات دولار في مجال الذكاء الاصطناعي المتقدم لشركة تسلا
هذا أمرٌ مُثيرٌ للدهشة، لا سيما وأنّ NVIDIA قد أعلنت مؤخرًا عن إطلاق وحدات معالجة الرسومات H200، المبنية على معمارية Hopper. وقد اتُخذ قرار البدء بالتدريب باستخدام وحدات معالجة الرسومات H100 بدلًا من انتظار H200 أو وحدات B100 وB200 القادمة المبنية على معمارية Blackwell. تُبشّر وحدات معالجة الرسومات H200، التي دخلت مرحلة الإنتاج الضخم في الربع الثاني، بتحسيناتٍ كبيرةٍ في الأداء، لكنّ تركيز xAI حاليًا ينصبّ على الاستفادة من بنية H100 الحالية لتحقيق أهدافها الطموحة.
محلل يشكك في إمدادات الطاقة لمجموعة ممفيس العملاقة
ديلان باتيل، الخبير في الذكاء الاصطناعي وأشباه الموصلات، مخاوف بشأن الطاقة اللازمة لتشغيل مجمع ميمفيس للحوسبة الفائقة. وأشار إلى أن إمدادات الشبكة الحالية البالغة 7 ميغاواط لا تكفي إلا لتشغيل حوالي 4000 وحدة معالجة رسومية. ومن المتوقع أن تزود هيئة وادي تينيسي (TVA) المجمع بـ 50 ميغاواط بموجب اتفاقية يُتوقع توقيعها بحلول الأول من أغسطس. مع ذلك، لن يكتمل بناء المحطة الفرعية اللازمة لتلبية كامل الطلب على الطاقة إلا في أواخر عام 2024.
أُحيّي إيلون، إنه رائعٌ للغاية. حذفتُ التغريدة.
— ديلان باتيل @ ICML (@dylan522p) 23 يوليو 2024
نعم، ٨ ميغاواط فقط من الشبكة حاليًا، و٥٠ ميغاواط في الأول من أغسطس بمجرد توقيع اتفاقية TVA. ٢٠٠ ميغاواط بحلول نهاية العام، نحتاج فقط ١٥٥ ميغاواط لتشغيل ١٠٠ ألف وحدة معالجة رسومية، لكن
٣٢ ألفًا منها متصلة الآن، والباقي في الربع الأخير.
ثلاثة أشهر على ١٠٠ ألف وحدة معالجة رسومية ستجعلها مشابهة لتشغيل GPT 5 الحالي. pic.twitter.com/NQp3M5ruu8
لاحظ باتيل، أثناء تحليله لصور الأقمار الصناعية، أن ماسك قد استخدم 14 مولدًا متنقلًا من نوع فولتاغريد، يُنتج كل منها 2.5 ميغاواط. وبذلك، تُنتج هذه المولدات مجتمعةً 35 ميغاواط من الكهرباء. وبالإضافة إلى 8 ميغاواط من الشبكة، يصل إجمالي الطاقة المُنتجة إلى 43 ميغاواط، وهو ما يكفي لتشغيل حوالي 32,000 وحدة معالجة رسومية من نوع H100 مع بعض القيود على استهلاك الطاقة.

