البنتاغون يتعاون مع شركة ذكاء اصطناعي لاختبار نماذج LLM الجديدة 

تقوم Scale AI بإنشاء خطة اختبار وتقييم (T&E) لنماذج اللغات الكبيرة (LLMs) الخاصة بالبنتاغون. تهدف المشروع إلى التأكد من أن نماذج الذكاء الاصطناعي آمنة وموثوقة للاستخدام العسكري.

تحتاج مكتب الرئيس الرقمي والذكاء الاصطناعي في البنتاغون (CDAO) إلى طريقة لاختبار وتقييم نماذج الذكاء الاصطناعي للاستخدام العسكري. يريد CDAO استخدام نماذج LLM لدعم وتحسين التخطيط العسكري واتخاذ القرارات. ومع ذلك، يمكن أن تعطل نماذج LLM هذه العمليات أيضاً.

استخدم البنتاغون عمليات T&E منذ فترة طويلة لضمان عمل أنظمته ومنصاته وتكنولوجياته بشكل جيد. لكن معايير وسياسات سلامة الذكاء الاصطناعي لم يتم تحديدها بعد. تعقيدات وعدم اليقين في نماذج LLM تجعل T&E أصعب حتى بالنسبة للذكاء الاصطناعي التوليدي.

كيف سيعمل؟

ستقوم Scale AI بإنشاء إطار عمل لـ CDAO لاختبار وتقييم نماذج LLM. ستشمل عملية T&E إنشاء "مجموعات بيانات احتياطية" حيث سيقوم insiders في وزارة الدفاع بتهيئة أزواج الاستجابة ومراجعتها طبقة تلو الأخرى. سيتأكد الخبراء من أن كل استجابة بنفس جودة استجابة بشرية في الجيش.

ستكون العملية تكرارية، وبمجرد جاهزية مجموعات البيانات، سيقوم الخبراء بتقييم نماذج LLM الحالية ضدها. في النهاية، سترسل النماذج إشارات إلى مسؤولي CDAO إذا بدأت تنحرف عن المجالات التي تم اختبارها ضدها.

هدف البنتاغون

الهدف هو تعزيز متانة ومرونة أنظمة الذكاء الاصطناعي في البيئات المصنفة. هذا سيمكن من اعتماد تكنولوجيا نماذج LLM في البيئات الآمنة. تخطط الشركة لأتمتة أكبر قدر ممكن من عملية التطوير. بهذه الطريقة، مع دخول نماذج جديدة، يمكن أن يكون هناك فهم أساسي لكيفية أدائها، وأين ستؤدي بشكل أفضل، وأين من المحتمل أن تبدأ في الفشل.

فوائد الشراكة

الشراكة بين Scale AI ووزارة الدفاع (DoD) هي خطوة كبيرة نحو ضمان النشر الآمس والمسؤول لنماذج LLM والذكاء الاصطناعي التوليدي داخل الجيش. سيساعد إطار الاختبار والتقييم (T&E) وزارة الدفاع على فهم نقاط القوة والقيود للتكنولوجيا. كما سيضمن أن النماذج موثوقة وآمنة وفعالة للتطبيقات العسكرية.

قال الرئيس التنفيذي لـ Scale AI، ألكسندر وانغ، "سيساعد اختبار وتقييم الذكاء الاصطناعي التوليدي وزارة الدفاع على فهم نقاط القوة والقيود للتكنولوجيا، بحيث يمكن نشرها بمسؤولية. Scale فخور بالشراكة مع وزارة الدفاع في هذا الإطار.".

إلى جانب CDAO، تعاونت Scale AI مع Meta وMicrosoft والجيش الأمريكي ووحدة الابتكار الدفاعي وOpenAI وجنرال موتورز ومعهد أبحاث تويوتا وNvidia وآخرون. تظهر هذه الشراكات التزام Scale AI بضمان النشر الآمن والمسؤول لتكنولوجيا الذكاء الاصطناعي.

شراكة بين Scale AI والبنتاغون هي خطوة كبيرة. إنها نحو ضمان الاستخدام الآمن لنماذج اللغات الكبيرة (LLMs) والذكاء الاصطناعي التوليدي في الجيش. سيساعد إطار الاختبار والتقييم (T&E) وزارة الدفاع على فهم نقاط القوة والحدود للتكنولوجيا. كما سيضمن أن النماذج موثوقة وآمنة وفعالة. هذا للاستخدام العسكري. مع خبرة Scale AI واحتياج البنتاغون لـ T&E، هذه الشراكة مربحة للطرفين.