يبرز تطور الذكاء الاصطناعي، وما يُقيّم آلات اللغات الكبيرة (LLMs) على أنها ذات معنى كبير هو مسألة تستحق الاهتمام. ستحدد هذه الأجهزة المتقدمة التكنولوجيا القادمة؛ لذا، فإن التعرف على آثارها السلبية وتوفير الأمن والنزاهة أمران ضروريان. تواجه نماذج اللغات الكبيرة التي فتحت آفاقًا جديدة لتكنولوجيا الذكاء الاصطناعي مشاكل جسيمة، لا سيما في إزاحة الموثوقية والثقة. 

كشف النقاب عن نهج راجا للذكاء الاصطناعي متعدد الأوجه

يُعد اكتشاف الأخطاء وإزالتها لاحقًا ضمن أنظمة إدارة التعلم (LLM) أمرًا صعبًا لأسباب متعددة، مثل ضعف بيانات التدريب أو استخدام الهجمات المعادية. ومع ذلك، يتطلب هذا السؤال تحليلًا وظيفيًا دقيقًا في السياق المحلي، مما يشير إلى ضرورة اتباع نهج واسع النطاق لتحقيق غرض التقييم.

راجا للذكاء الاصطناعي أداةٌ تُوفّر إطار تقييم شاملًا يتألف من أكثر من مئة معيار، كجزءٍ من أدواتها للتنبؤ بكل مشكلة محتملة تواجه تطبيق ماجستير الحقوق. بدءًا من إنشاء وإدارة قواعد بيانات المعلومات والمواضيع، وصولًا إلى اختيار وتقييم برامج ماجستير الحقوق، تلتزم راجا بتسريع وتيرة العمل مع مراعاة تعقيد المهمة.

إن إحدى القدرات الرئيسية لبرنامج ChatGPT من حيث اكتشاف قوالب المطالبة، واكتشاف الإجابات غير الدقيقة وتصحيحها، وإدارة السياق من أجل المعنى والدقة، واستخدام الإحصائيات لاكتشاف المعلومات المضللة والتحيزات وتسريبات الاستخبارات والإبلاغ عنها هي قدرته على إنشاء فقرات وتحليلها والتوصل إلى استجابة دقيقة بناءً على قراءتها، واستخدام المقاييس.

تعزيز تقييم LLM من خلال حل إطار عمل Raga AI

هناك أمثلة على أخطاء في تطبيقات LML، مثل روبوت الدردشة الذكي التابع لشركة طيران كندا الذي قدم معلومات خاطئة حول سياسة الحداد، وروبوت الدردشة التابع لشركة جوجل الذي ارتكب أخطاءً فعلية أثناء أدائه. تُظهر هذه الحالات أن الأخطاء الكبيرة واردة. 

إنها توضح المسألة الرئيسية المتمثلة في الفحص الكامل لتجنب إنشاء معلومات مضللة وتحيز، والتي تحصل عليها النماذج من خلال كمية هائلة من البيانات التي يتم تدريبها عليها.

علاوة على ذلك، أثارت قدرة الآلات المُعدّة للكلمات على إنتاج كلمات شبيهة بالكلمات البشرية العديد من التساؤلات الأخلاقية المتعلقة بإساءة استخدام الكتابة. وبالتالي، أصبح من الضروري للغاية اعتماد أساليب تقييم دقيقة للتعامل مع هذه المسألة. 

هذا قد يُقوّض قوة الحقيقة، ويُحوّل القنوات السريعة إلى مسارٍ سريعٍ لنشر الخرافات والأخبار الزائفة، بل وحتى التحيزات. وبالتالي، سيُقلّل هذا من جودة المعلومات، ويجعل الفضاء الرقمي أكثر غموضًا من أي وقت مضى.

راجااي رائدة في وضع المعايير الأخلاقية في تطوير الذكاء الاصطناعي

يتناول نهج RagaAI ثلاثة أبعاد أساسية حاسمة لبناء تطبيقات LLM جديرة بالثقة وموثوقة: إجراء اختبار كامل يغطي البيانات والنموذج بالإضافة إلى الجزء التشغيلي؛ واستخدام تقييم النماذج المتعددة لتعزيز قوة البيانات التي تتضمن الصور والنصوص والرموز وما إلى ذلك، وكذلك تقديم توصيات منظمة لا تتضمن فقط اكتشاف المشكلات ولكن أيضًا معالجة الحلول العلمية.

في نهاية المطاف، تُوِّجت محاولات RagaAI بحزمة مفتوحة المصدر تهدف إلى توفير أدوات تقييم سهلة لطلاب ماجستير القانون المتقدمين. وتواصل RagaAI مساهمتها في إرساء إجراءات معيارية في مجال الذكاء الاصطناعي من خلال توفير إطار عمل شامل للاختبار لمجتمع المطورين بأكمله. ويُعَدُّ هذا الإطار مُسرِّعًا للابتكار، ويُحفِّز التعاون في تطوير تقنيات الذكاء الاصطناعي وإضفاء الطابع الإنساني عليها.

إن تنفيذ هدف هذه المنظمة لتوفير حل يمكنه تحويل تطوير الذكاء الاصطناعي مما سيزيد بشكل كبير من سرعة تطوير الذكاء الاصطناعي، ويخفض تكاليف البنية التحتية للتطوير، ويضمن أيضًا أن تكون تطبيقات LLM عالية الأداء وموثوقة وآمنة هي دليل على أهمية وجود آليات تقييم مناسبة في عصر الذكاء الاصطناعي الحالي.

القصة الأصلية من:https://www.electron​​icspecifier.com/products/artificial-intelligence/evaluating-llms-how-and-why