البنتاغون يتعاون مع شركة متخصصة في الذكاء الاصطناعي لاختبار نماذج جديدة لبرامج الماجستير في القانون 

تُعدّ شركة Scale AI خطة اختبار وتقييم لنماذج اللغة الضخمة التابعة لوزارة الدفاع الأمريكية (البنتاغون). ويهدف المشروع إلى ضمان سلامة وموثوقية نماذج الذكاء الاصطناعي للاستخدام العسكري.

يحتاج مكتب رئيس قسم الذكاء الاصطناعي والتحول الرقمي في البنتاغون (CDAO) إلى آلية لاختبار وتقييم نماذج الذكاء الاصطناعي للاستخدام العسكري. ويرغب المكتب في استخدام نماذج التعلم الآلي (LLMs) لدعم وتحسين التخطيط العسكري وعمليات صنع القرار. إلا أن هذه النماذج قد تُعطّل هذه العمليات أيضاً.

لطالما استخدم البنتاغون عمليات الاختبار والتقييم لضمان كفاءة أنظمته ومنصاته وتقنياته. إلا أن معايير وسياسات سلامة الذكاء الاصطناعي لم تُحدد بعد. وتزيد تعقيدات وعدم يقين نماذج التعلم الآلي من صعوبة الاختبار والتقييم بالنسبة للذكاء الاصطناعي التوليدي.

كيف ستعمل؟

ستقوم شركة Scale AI بإنشاء إطار عمل لمكتب رئيس قسم العمليات الدفاعية لاختبار وتقييم نماذج التعلم الآلي. ستتضمن عملية الاختبار والتقييم إنشاء "مجموعات بيانات اختبارية" حيث سيقوم خبراء وزارة الدفاع بتقديم أزواج من الإجابات ومراجعتها على مراحل. سيضمن الخبراء أن تكون كل إجابة بنفس جودة الاستجابة البشرية في المجال العسكري.

ستكون العملية تكرارية، وبمجرد جاهزية مجموعات البيانات، سيقوم الخبراء بتقييم نماذج التعلم الآلي الحالية باستخدامها. وفي نهاية المطاف، سترسل النماذج إشارات إلى مسؤولي مكتب رئيس قسم تطوير البرمجيات إذا بدأت في الانحراف عن المجالات التي تم اختبارها عليها.

هدف البنتاغون

الهدف هو تعزيز متانة أنظمة الذكاء الاصطناعي وقدرتها على الصمود في البيئات السرية. سيمكّن هذا من تبني تقنية التعلم القائم على التعلم في البيئات الآمنة. وتخطط الشركة لأتمتة أكبر قدر ممكن من عملية التطوير. وبهذه الطريقة، مع ظهور نماذج جديدة، يمكن تكوين فهم أساسي لكيفية أدائها، ومجالات تفوقها، ومواطن ضعفها المحتملة.

فوائد الشراكة

تُعدّ الشراكة بين شركة Scale AI ووزارة الدفاع الأمريكية خطوةً هامةً نحو ضمان النشر الآمن والمسؤول لنماذج التعلم الآلي وتقنيات الذكاء الاصطناعي التوليدي في المجال العسكري. وسيساعد إطار الاختبار والتقييم وزارة الدفاع على فهم نقاط قوة هذه التقنية وحدودها، كما سيضمن موثوقية النماذج وسلامتها وفعاليتها في التطبيقات العسكرية.

قال ألكسندر وانغ، الرئيس التنفيذي لشركة Scale AI: "سيساعد اختبار وتقييم الذكاء الاصطناعي التوليدي وزارة الدفاع الأمريكية على فهم نقاط قوة هذه التقنية وحدودها، حتى يتسنى نشرها بشكل مسؤول. وتتشرف Scale بالتعاون مع وزارة الدفاع في هذا الإطار."

إلى جانب شراكتها مع مركز تطوير الذكاء الاصطناعي (CDAO)، عقدت شركة Scale AI شراكات مع شركات أخرى مثل Meta، ومايكروسوفت، والجيش الأمريكي، ووحدة الابتكار الدفاعي، وOpenAI، وجنرال موتورز، ومعهد تويوتا للأبحاث، وNvidia، وغيرها. وتُظهر هذه الشراكات التزام Scale AI بضمان استخدام تقنيات الذكاء الاصطناعي بشكل آمن ومسؤول.

تُعدّ الشراكة بين شركة Scale AI ووزارة الدفاع الأمريكية (البنتاغون) خطوةً هامةً نحو ضمان الاستخدام الآمن لنماذج التعلم الآلي والذكاء الاصطناعي التوليدي في المجال العسكري. وسيساعد إطار الاختبار والتقييم وزارة الدفاع على فهم نقاط قوة هذه التقنية وحدودها، كما سيضمن موثوقية النماذج وسلامتها وفعاليتها، وذلك لأغراض عسكرية. وبفضل خبرة Scale AI وحاجة البنتاغون إلى الاختبار والتقييم، تُشكّل هذه الشراكة مكسبًا للطرفين.