يمكن الآن مراقبة تطبيقات الذكاء الاصطناعي في الوقت الفعلي باستخدام مركز التحكم في الذكاء الاصطناعي لمنع إدخال المستخدم الضار

أعلنت شركة المراقبة للذكاء الاصطناعي WhyLabs عن منتج ذكاء اصطناعي جديد سيوفر تحكمًا في الوقت الفعلي لإنتاج تطبيقات الذكاء الاصطناعي الخاصة بها. صُمم منصة مركز التحكم في الذكاء الاصطناعي لمراقبة والتحكم في عمليات حلول الذكاء الاصطناعي لضمان موثوقيتها وسلامتها، حيث لا تستطيع أنظمة المراقبة التقليدية مراقبة الذكاء الاصطناعي بشكل موثوق.

WhyLabs تقدم مركز التحكم في الذكاء الاصطناعي

قالت الشركة إن هناك العديد من التحديات التي تواجهها الشركات اليوم، خاصة فيما يتعلق بنماذج اللغات الكبيرة (LLMs). حيث يجب على الفرق في الشركات التأكد من أن هجمات حقن المطالبات لا تجعل نماذج اللغات الكبيرة الخاصة بها عرضة لتقديم مخرجات ضارة أو غير دقيقة يمكن أن تضر بسمعتها.

يمكن أن يساعد حل الشركة في معالجة هذه القضايا من خلال تقييم تشغيل نماذج اللغات الكبيرة في الوقت الفعلي. حيث يمكنه التعامل مع مجموعة كاملة من الجوانب التي يمكن أن تكون مشكلة لنماذج اللغات الكبيرة، على سبيل المثال، مطالبات المستخدم، عملية توليد الاستجابات (RAG)، والملاحظات التي تولدها. ذكرت أليسيا فيسنجيك، الرئيس التنفيذي والمؤسس المشارك لشركة WhyLabs، أن

"عملاؤنا ينقلون مبادرات الذكاء الاصطناعي التوليدي من النماذج الأولية إلى الإنتاج، حيث تكون الأمان والجودة أمرًا بالغ الأهمية."

وأشارت إلى أدوات المراقبة التقليدية التي تقوم فقط بالمراقبة السلبية، وأضافت،

"أدوات المراقبة السلبية وحدها غير كافية لهذا القفز لأنك لا تستطيع تحمل تأخير لمدة 5 دقائق في معرفة أن حادث اختراق قد حدث في تطبيق. تزود قدراتنا الأمنية الجديدة فرق الذكاء الاصطناعي بضمانات تمنع التفاعلات غير الآمنة في أقل من 300 مللي ثانية، مع دقة اكتشاف التهديدات بنسبة 93%."

المصدر: Businesswire.

المراقبة التقليدية مقابل المراقبة القائمة على الذكاء الاصطناعي لـ

وفقًا لفيسنجيك، فإن الفرق بين المراقبة التقليدية ومراقبة الذكاء الاصطناعي هو أن النقطة الرئيسية التي يجب البحث عنها هي تحديد عوامل الخطر لقياسها والإجراء المعتمد لقياسها بطريقة متسقة. تقول،

"تفتح نماذج اللغات الكبيرة وتطبيقات الذكاء الاصطناعي التوليدي مجموعة كاملة جديدة من تحديات الأمان التي لم نحلها من قبل."

المصدر: Siliconangle.

تشرح التحديات حول كيفية تحديد النظام لحقن المطالبة أو الاختراق، بما في ذلك أي نوع من المدخلات ذات النية السيئة من المستخدم النهائي. يمكن لمركز التحكم في الذكاء الاصطناعي توفير تحكم في الوقت الفعلي لأداء تطبيق الذكاء الاصطناعي، مما يساعد فرق الأمن السيبراني والأعمال على التعامل مع العديد من المخاطر، كما تدعي WhyLabs. يمكن للشركات ضبط نظام المراقبة بدقة وتحديد مجموعة خاصة بها من القواعد للكشف المتقدم عن التهديدات للحصول على تحكم أكثر دقة، والتي يمكن أن تكون أيضًا تمرينًا مستمرًا مع التهديدات الناشئة.

وبهذه الطريقة، يمكن للفرق بناء مجموعات بيانات عالية الجودة بناءً على تفاعلات تطبيقات الذكاء الاصطناعي مع المستخدمين، حيث يسمح المنصة أيضًا بالتحقيق في المشكلات التي تظهر مع مرور الوقت. يمكن الآن الاستفادة من هذه القدرات في منصة WhyLabs AI Control Platform، جنبًا إلى جنب مع العديد من الأدوات الأخرى لأداء نماذج الذكاء الاصطناعي، حيث تقوم الشركة بتوسيع عروضها بدعم من 14 مليون دولار. المستثمرون الرئيسيون هم Bezos Expeditions وAI Funds، وMadrona Venture Group.