يمكن الآن مراقبة تطبيقات الذكاء الاصطناعي في الوقت الفعلي باستخدام مركز التحكم بالذكاء الاصطناعي لإيقاف إدخالات المستخدم الضارة

أطلقت شركة WhyLabs الناشئة، المتخصصة في مراقبة الذكاء الاصطناعي، منتجًا جديدًا للذكاء الاصطناعي يوفر تحكمًا فوريًا في مخرجات تطبيقاتها. صُممت منصة "مركز التحكم بالذكاء الاصطناعي" لمراقبة عمليات حلول الذكاء الاصطناعي والتحكم بها لضمان موثوقيتها وسلامتها، نظرًا لعدم قدرة أنظمة المراقبة التقليدية على مراقبة الذكاء الاصطناعي بكفاءة.

تقدم شركة WhyLabs مركز التحكم بالذكاء الاصطناعي

أوضحت الشركة أن الشركات تواجه اليوم العديد من التحديات، لا سيما فيما يتعلق ببرامج إدارة التعلم الآلي. إذ يتعين على فرق العمل في هذه الشركات ضمان عدم تعرض برامج إدارة التعلم الآلي لهجمات الحقن الفوري، حتى لا تُنتج مخرجات ضارة أو غير دقيقة قد تُلحق الضرر بسمعتها.

يُمكن لحل الشركة أن يُساعد في معالجة هذه المشكلات من خلال تقييم أداء أنظمة التعلم الآلي في الوقت الفعلي. إذ يُمكنه التعامل مع جميع الجوانب التي قد تُشكّلmatic لهذه الأنظمة، مثل مطالبات المستخدم، وعملية توليد الاستجابات (RAG)، والتعليقات الناتجة عنها. وقد ذكرت أليسيا فيشنيتش، الرئيسة التنفيذية والمؤسسة المشاركة لشركة WhyLabs، أن

"يقوم عملاؤنا بنقل مبادرات الذكاء الاصطناعي التوليدي من مرحلة النماذج الأولية إلى مرحلة الإنتاج، حيث تعتبر السلامة والجودة أمراً بالغ الأهمية."

وأشارت إلى أدوات المراقبة التقليدية التي تقتصر على المراقبة السلبية، وأضافت:

"لا تكفي أدوات المراقبة السلبية وحدها لتحقيق هذه النقلة النوعية، إذ لا يمكن تحمل تأخير لمدة خمس دقائق في اكتشاف وقوعdent اختراق في أحد التطبيقات. تُزوّد ​​قدراتنا الأمنية الجديدة فرق الذكاء الاصطناعي بضمانات تمنع التفاعلات غير الآمنة في أقل من 300 مللي ثانية، بدقة كشف تهديدات تصل إلى 93%."

المصدر: بزنس واير.

المراقبة التقليدية مقابل المراقبة القائمة على الذكاء الاصطناعي

بحسب فيسنيتش، يكمن الفرق بين المراقبة التقليدية والمراقبة المدعومة بالذكاء الاصطناعي في أن النقطة الأساسية التي يجب البحث عنها هي تحديد عوامل الخطر المراد قياسها والإجراءات المتبعة لقياسها بطريقة متسقة. وتقول:

"تفتح تطبيقات الذكاء الاصطناعي والتقنيات ذات الصلة بالقانون مجموعة جديدة تمامًا من التحديات الأمنية التي لم نتمكن من حلها من قبل."

المصدر: سيليكون أنجل.

تشرح التحديات التي تواجه النظام في تحديد عمليات الحقن المتعمد أو اختراق الأنظمة، بما في ذلك أي نوع من المدخلات ذات النوايا الخبيثة من المستخدم النهائي. وتزعم شركة WhyLabs أن مركز التحكم بالذكاء الاصطناعي يُمكّن الشركات من التحكم الفوري في أداء تطبيقات الذكاء الاصطناعي، مما يساعد فرق الأمن السيبراني وفرق الأعمال على مواجهة العديد من المخاطر. كما يمكن للشركات ضبط نظام المراقبة بدقة، بالإضافة إلى وضع مجموعة قواعدها الخاصة للكشف المتقدم عن التهديدات، ما يتيح تحكمًا أكثر دقة، وهو ما يمكن أن يكون عملية مستمرة لمواكبة التهديدات الناشئة.

بهذه الطريقة، تستطيع الفرق بناء مجموعات بيانات عالية الجودة استنادًا إلى تطبيقات الذكاء الاصطناعي مع المستخدمين، إذ تتيح المنصة أيضًا إجراء تحقيقات في المشكلات التي تظهر بمرور الوقت. ويمكن الآن الاستفادة من هذه الإمكانيات في منصة WhyLabs للتحكم بالذكاء الاصطناعي، إلى جانب العديد من الأدوات الأخرى لتحسين أداء نماذج الذكاء الاصطناعي، حيث توسّع الشركة نطاق خدماتها بدعم مالي قدره 14 مليون دولار. ومن أبرز المستثمرين: Bezos Expeditions and AI Funds، وMadrona Venture Group.