يظهر تطوير الذكاء الاصطناعي، وما يميز آلات اللغة الكبيرة (LLMs) كأداة ذات معنى كبير هو سؤال الانتباه. ستحدد هذه الأجهزة المتقدمة التكنولوجيا القادمة؛ وبالتالي، فإن التعرف على آثارها السلبية وتسببها في قضايا الأمان والنزاهة أمر ضروري. تواجه نماذج اللغة الكبيرة التي فتحت آفاقاً جديدة لتكنولوجيا الذكاء الاصطناعي مشاكل كبيرة، خاصة فيما يتعلق بإزاحة الموثوقية والمصداقية.

كشف النهج متعدد الأوجه لـ Raga AI

يُعد اكتشاف الأخطاء وإزالتها لاحقاً ضمن النماذج اللغوية الكبيرة (LLMs) أمراً صعباً لعدة أسباب، مثل جودة بيانات التدريب الرديئة أو استخدام الهجمات العدائية. ومع ذلك، يتطلب الأمر تفكيلاً وظيفياً دقيقاً في السياق المحلي، مما يشير إلى ضرورة اعتماد نهج واسع النطاق لخدمة غرض التقييم.

Raga AI هي أداة؛ حيث سيتم توفير إطار عمل تقييم شامل يتكون من أكثر من مئة معيار كجزء من الترسانة التنبؤية لكل مشكلة محتملة تواجه تطبيق LLM. ومن إنشاء وإدارة قواعد البيانات المواضيعية إلى اختيار وتقييم نماذج LLM، فهي ملتزمة بتسريع وتيرة العمل مع الاعتراف بالتعقيد الجوهري للمهمة.

تتمثل إحدى القدرات الرئيسية لـ ChatGPT في مجال اكتشاف قوالب المطالبات (prompts)، وكشف وتصحيح الإجابات غير الدقيقة، وإدارة السياق لضمان الدقة والمعنى، واستخدام الإحصائيات للكشف عن المعلومات المضللة والتحيزات وتسريبات الذكاء، في قدرتها على توليد فقرات، وتحليل النصوص، وصياغة استجابة دقيقة بناءً على قراءتها، واستخدام المقاييس.

تعزيز تقييم النماذج اللغوية الكبيرة: حل إطار عمل Raga AI

هناك أمثلة على فشل تطبيقات LLM، مثل تقديم روبوت Air Canada الدردشة الذكي معلومات خاطئة حول سياسة الوفاة، وارتكاب روبوت Google الدردشة لأخطاء في الحقائق أثناء أدائه. تُظهر هذه الحالات أن الأخطاء الكبيرة ممكنة الحدوث. 

إنها تبرز المسألة الرئيسية المتمثلة في الفحص الشامل لتجنب إنشاء معلومات مضللة وتحيزات، وهي أمور تتعرض لها النماذج من خلال الكم الهائل من البيانات التي يتم تدريبها عليها.

علاوة على ذلك، أثارت قدرة النماذج التوليدية (GMs) على إنتاج كلمات تشبه لغة البشر العديد من القضايا الأخلاقية المتعلقة بسوء استخدام الكتابة. وبالتالي، أصبح من الضروري أكثر من أي وقت مضى وجود طرق تقييم صارمة للتعامل مع هذا الأمر. 

يمكن أن يقوض ذلك سلطة الحقيقة ويحول القنوات السريعة إلى ممر سريع لمشاركة الأساطير والأخبار الكاذبة أو حتى التحيزات. ونتيجة لذلك، سيؤدي ذلك إلى تقليل جودة المعلومات وجعل الفضاء الرقمي أكثر شكاً مما كان عليه من قبل.

RagaAI تضع معايير أخلاقية رائدة في تطوير الذكاء الاصطناعي

يعالج نهج RagaAI ثلاثة أبعاد رئيسية حاسمة لبناء تطبيقات LLM موثوقة وموثوقة: إجراء اختبارات شاملة تغطي البيانات والنموذج والجزء التشغيلي؛ واستخدام تقييم متعدد النماذج لتعزيز متانة البيانات التي تشمل الصور والنصوص والبرمجيات وما إلى ذلك؛ وتقديم توصيات هيكلية تتضمن ليس فقط اكتشاف المشكلات ولكن أيضاً معالجة الحلول العلمية.

في النهاية، تؤدي محاولات RagaAI إلى حزمة مفتوحة المصدر تهدف إلى توفير أدوات سهلة التقييم للنماذج اللغوية الكبيرة المتقدمة. تواصل RagaAI مساهمتها في وضع إجراءات قياسية في مجال الذكاء الاصطناعي من خلال جعل إطار الاختبار الشامل متاحاً لمجتمع المطورين على نطاق واسع. إنها تعمل كمسرّع للابتكار وتحفز التعاون في صقل وتبني تقنيات الذكاء الاصطناعي لجعلها أكثر إنسانية.

يُعد تنفيذ هدف هذه المنظمة المتمثل في تقديم حل يمكنه تحويل تطوير الذكاء الاصطناعي، مما يزيد بشكل كبير من سرعة التطوير، ويخفض تكاليف البنية التحتية للتطوير، ويضمن نشر تطبيقات LLM ذات الأداء العالي والموثوقة والآمنة، دليلاً على أهمية وجود آليات تقييم مناسبة في عصر الذكاء الاصطناعي الحالي.

القصة الأصلية من: https://www.electronicspecifier.com/products/artificial-intelligence/evaluating-llms-how-and-why