التكاليف الخفية لتدريب نماذج الذكاء الاصطناعي

يتطلب بناء ودعم نماذج الذكاء الاصطناعي الحديثة استثمارات كبيرة، قد تتجاوز مئات الملايين من الدولارات. تشير التقديرات إلى أن هذه التكاليف قد تصل إلى مليار دولار في المستقبل القريب. 

يعزى هذا الإنفاق بشكل رئيسي إلى قوة الحوسبة، حيث تُستخدم وحدات معالجة الرسومات من Nvidia، والتي قد تكلف حوالي 30,000 دولار لكل منها وقد تتطلب آلافاً أخرى لتكون فعالة. ذكر الباحثون أن جودة وكمية مجموعة بيانات التدريب المستخدمة في تطوير هذه النماذج مهمة جداً. 

قادة الصناعة يكشفون عن تكاليف مذهلة لتطوير الذكاء الاصطناعي

وفقاً لجيمس بيكر من OpenAI، فإن أداء النموذج هو دالة لبيانات التدريب بدلاً من تصميم أو بنية النموذج. ادعاؤه هو أن النماذج المدربة على مجموعات بيانات كبيرة ستصل إلى نفس النتائج. لذلك، البيانات هي المفتاح لتقدم تكنولوجيا الذكاء الاصطناعي.

شارك داريو أمودي، الرئيس التنفيذي لشركة Anthropic AI، رؤاه حول الجوانب المالية لهذه التحديات في بودكاست In Good Company. وذكر أن تدريب النماذج الحالية، مثل ChatGPT-4، يُقدر تكلفته بحوالي 100 مليون دولار، وقد يتطلب تدريب النماذج المستقبلية بين 10 إلى 100 مليار دولار في السنوات القليلة المقبلة.

نماذج الذكاء الاصطناعي التوليدي، وتلك التي أنشأتها الشركات الكبيرة، هي في جوهرها نماذج إحصائية. لذلك، فهي تستخدم الكثير من الأمثلة للتنبؤ بالنتائج الأكثر احتمالاً. يقول كايل لو من معهد ألين للذكاء الاصطناعي (AI2) أن التحسن في الأداء يمكن عزوه بشكل أساسي إلى البيانات، خاصة عندما يكون بيئة التدريب متسقة. 

تركيز البيانات يثير مخاوف أخلاقية وإمكانية الوصول

التكلفة العالية للحصول على بيانات عالية الجودة تجعل تطوير الذكاء الاصطناعي حكراً على عدد قليل من الشركات الكبيرة في العالم المتقدم. هذا التجمع للموارد هو أيضاً مصدر قلق بشأن توفر تكنولوجيا الذكاء الاصطناعي وإمكانية إساءة استخدامها. 

أنفقت OpenAI وحدها مئات الملايين من الدولارات على تراخيص البيانات، ودرست Meta شراء الناشرين للوصول إلى البيانات. من المتوقع أن يتوسع سوق بيانات تدريب الذكاء الاصطناعي، ومن المرجح أن يستفيد وسطاء البيانات من هذه الفرصة. 

تظهر مشاكل من ممارسات الحصول على البيانات المشكوك فيها. وفقاً للتقارير، قامت العديد من الشركات بالتقاط أحجام كبيرة من المحتوى دون إذن مالكي مثل هذا المحتوى، وتستخدم بعض الشركات البيانات من منصات مختلفة دون تعويض المستخدمين. كما أبلغنا سابقاً، استخدمت OpenAI نموذجها Whisper لنسخ الصوت لنسخ أكثر من مليون ساعة من مقاطع فيديو YouTube لضبط GPT-4.

المنظمات تعمل على إنشاء مجموعات بيانات تدريب مفتوحة للذكاء الاصطناعي

مع ظهور مشاكل في سباق الحصول على البيانات، هناك حاجة إلى جهود من أطراف مستقلة لجعل مجموعات بيانات التدريب متاحة للجمهور. تقوم بعض المنظمات، مثل EleutherAI وHugging Face، بإنشاء مجموعات بيانات كبيرة متاحة للعامة لتطوير الذكاء الاصطناعي.

سلطت صحيفة وول ستريت جرنال الضوء مؤخراً على استراتيجيتين محتملتين لحل مشاكل الحصول على البيانات: توليد البيانات التوليدي والتعلم المنهجي. يتم إنشاء البيانات الاصطناعية باستخدام نماذج الذكاء الاصطناعي نفسها، بينما يحاول التعلم المنهجي تزويد النماذج ببيانات عالية الجودة بطريقة منظمة بحيث يمكنها إجراء اتصالات حتى مع بيانات أقل. ومع ذلك، لا تزال كلتا الطريقتين في مراحل التطوير، ولم يتم اختبار فعاليتها بعد.