النرويج في طريقها لتطوير برنامج الماجستير في القانون

أعدّ فريق تقنيات اللغة (LTG) في جامعة أوسلو ثلاثة نماذج لغوية نرويجية ضخمة. وقد أُتيح ذلك للباحثين بفضل إتاحة الفرصة لهم للوصول إلى أقوى حاسوب في أوروبا، Lumi، الموجود في فنلندا. قام باحثو LTG بتدريب نماذجهم اللغوية الضخمة (LLMs) على Lumi قبل عيد الميلاد، وعالجوا كمية كبيرة من البيانات لإطلاق ثلاثة نماذج لغوية نرويجية مختلفة لمنافسة ChatGPT. لا يُعدّ الوصول إلى Lumi أمرًا سهلاً، إذ يتعيّن على الباحثين التقديم مسبقًا ثم انتظار دورهم، إلا أن هذا الحاسوب القوي يُسرّع عملية تدريب البيانات.

لماذا يرغب النرويجيون في نموذج لغوي كبير خاص بهم (LLM)؟

أراد النرويجيون بناء نموذج لغوي خاص بهم، نظرًا لتعدد استخداماته إلى جانب كونه باللغة الأم، مما يتيح تبنيه على نطاق أوسع. وأشار إريك فيلدال، أستاذ علومmaticفي جامعة أوسلو، إلى المشكلات المختلفة المرتبطة بالحلول التجارية، قائلاً:

"هناك العديد من المشاكل المرتبطة بنماذج اللغة الخاصة بعمالقة التكنولوجيا. فهي تبدو كصناديق سوداء للعالم الخارجي. نحن بحاجة إلى بدائل نرويجية."

المصدر: إريك فيلدال.

في وقت سابق، عملت المكتبة الوطنية النرويجية وجامعة أوسلو على عدد قليل من نماذج اللغة النرويجية، لكن النماذج التي تم تطويرها الآن هي الأكبر حتى الآن، حيث تحتوي على أكثر من 30 مليار كلمة للتدريب. 

يُعدّ دور Lumi بالغ الأهمية، إذ يتطلب تدريب نماذج الذكاء الاصطناعي قدرة حاسوبية هائلة، بما في ذلك العديد من وحدات معالجة الرسومات (GPU). ويمكن تسريع عملية التدريب بزيادة عدد وحدات معالجة الرسومات، ويُتيح Lumi فرصةً ممتازةً لتحقيق ذلك بفضل احتوائه على أكثر من 10,000 وحدة معالجة رسومات. 

يقول الأستاذ المشارك أندريه كوتوزوف إن من بين الأسباب العديدة التي دعت إلى استخدام نموذج للغة النرويجية، أن نماذج مثل ChatGPT لا تتكيف جيدًا مع معارف وقيم النرويج. فهذه النماذج تُدرَّب على اللغات الأمريكية والإنجليزية بشكل أساسي، لذا defiالثقافة والقيم الأمريكية أيضًا، وما يحتاجه الشعب النرويجي هو شيء يتوافق مع تفضيلاته الخاصة. ويضيف:

"سيعكس نموذج اللغة النرويجية، إلى حد كبير، المجتمع كما نعرفه في النرويج."

المصدر: أندريه كوتوزوف.

قيود نماذج اللغة النرويجية الكبيرة

تم إطلاق النماذج النرويجية، المخصصة أساسًا للمطورين والباحثين، وحملها آلاف المستخدمين. يوضح كوتوزوف أن هذه النماذج غير متاحة على الإنترنت، نظرًا لسهولة استخدام واجهة الويب من قِبل عامة الناس. ووفقًا للأستاذ، لا تزال هذه النماذج بعيدة عن النماذج التجارية من حيث الإمكانيات التي توفرها، كونها نماذج أساسية عامة. 

يسود اعتقادٌ في أوساط شركات التكنولوجيا اللغوية النرويجية بضرورة امتلاك نماذجها الخاصة لمنافسة نماذج مثل ChatGPT من OpenAI أو LaMDA من جوجل. إلى جانب العديد من الملاحظات الأخرى، مثل أن النماذج التجارية لا تتيح الوصول إليها إلا عبر واجهة الويب الخاصة بها، وأن النموذج الذي يقوم عليه النظام مغلقٌ أمام الوصول. لذا، في كثير من السياقات، قد يكون منح البيانات لمزود خدمة خارجي أمرًا محفوفًا بالمخاطر، لا سيما في البيانات الطبية، حيث تُعدّ الخصوصية الشغل الشاغل.

تُعتبر نماذج اللغة النرويجية محدودة نسبيًا مقارنةً بنموذج ChatGPT، إذ أنها تُدرَّب على 0.1% فقط من البيانات المستخدمة في تدريب ChatGPT. مع ذلك، فإن هذه النماذج ليست مغلقة ولا تخضع لقيود، مما يجعلها أكثر فائدة للباحثين.

لا يزال الوصول إلى جودة ومعايير نماذج اللغة الأمريكية مهمة صعبة، النماذج النرويجية إلى مزيد من التطوير. ولكي تضاهي نماذج مثل ChatGPT أو Bard، فهي بحاجة إلى تدريب تعليمي يمكّنها من حلّ مشاكل أكثر تعقيدًا. ويُقال إنه سيتم إطلاق نسخ جديدة من هذه النماذج، وستستمر عملية التطوير.