أطلقت شركة WhyLabs الناشئة لمراقبة الذكاء الاصطناعي منتجًا جديدًا للذكاء الاصطناعي يوفر التحكم في الوقت الفعلي لمخرجات تطبيقات الذكاء الاصطناعي الخاصة بها. تم تصميم المنصة المسماة AI Control Center لرصد عمليات حلول الذكاء الاصطناعي والتحكم فيها لضمان موثوقيتها وسلامتها، حيث أن أنظمة المراقبة التقليدية غير قادرة على مراقبة الذكاء الاصطناعي بشكل موثوق.
تقدم WhyLabs مركز التحكم بالذكاء الاصطناعي
وقالت الشركة إن هناك العديد من التحديات التي تواجه الشركات اليوم، خاصة فيما يتعلق ببرامج الماجستير في القانون. حيث يتعين على الفرق في الشركات التأكد من أن هجمات الحقن السريع لا تجعل طلاب LLM الخاصين بهم عرضة للخطر بحيث لا يقدمون مخرجات ضارة أو غير دقيقة يمكن أن تلحق الضرر بسمعتهم.
يمكن أن يساعد حل الشركة في معالجة هذه المشكلات من خلال تقييم تشغيل LLMs في الوقت الفعلي. حيث أنه يمكنه التعامل مع مجموعة كاملة من الجوانب التي يمكن أن تمثل matic بالنسبة إلى LLMs، على سبيل المثال، مطالبات المستخدم، وعملية توليد الاستجابات (RAG)، والتعليقات التي تولدها. ذكرت ذلك أليسيا فيسنجيك، الرئيس التنفيذي والمؤسس المشارك لشركة WhyLabs
"يعمل عملاؤنا على نقل مبادرات الذكاء الاصطناعي التوليدي من النماذج الأولية إلى الإنتاج، حيث يكون الأمان والجودة أمرًا بالغ الأهمية."
وأضافت، مشيرةً إلى أدوات المراقبة التقليدية التي تقوم فقط بالمراقبة السلبية،
"أدوات المراقبة السلبية وحدها ليست كافية لتحقيق هذه القفزة لأنك لا تستطيع تحمل تأخير لمدة 5 دقائق في معرفة حدوث dent كسر الحماية في أحد التطبيقات. إن قدراتنا الأمنية الجديدة تزود فرق الذكاء الاصطناعي بوسائل حماية تمنع التفاعلات غير الآمنة في أقل من 300 مللي ثانية، مع دقة اكتشاف التهديدات بنسبة 93٪.
المصدر: بيزنس واير .
المراقبة التقليدية مقابل المراقبة القائمة على الذكاء الاصطناعي
وفقًا لفيسنجيتش، فإن الفرق بين المراقبة التقليدية وإمكانية ملاحظة الذكاء الاصطناعي هو أن النقطة الأساسية التي يجب البحث عنها هي الإشارة إلى عوامل الخطر التي يجب قياسها والإجراء المعتمد لقياسها بطريقة متسقة. تقول،
"تفتح برامج LLM وتطبيقات الذكاء الاصطناعي العامة مجموعة جديدة تمامًا من التحديات الأمنية التي لم نحلها من قبل."
المصدر: Siliconangle .
وهي تشرح التحديات المتعلقة بكيفية تحديد النظام للحقن الفوري أو كسر الحماية، بما في ذلك أي نوع من الإدخال بنية سيئة من المستخدم النهائي. يمكن لمركز التحكم بالذكاء الاصطناعي أن يزود الشركات بالتحكم في الوقت الفعلي لأداء تطبيقات الذكاء الاصطناعي، مما يساعد الأمن السيبراني وفرق الأعمال على معالجة العديد من المخاطر، حسبما تزعم شركة WhyLabs. يمكن للشركات ضبط نظام المراقبة وكذلك وضع مجموعة القواعد الخاصة بها للكشف المتقدم عن التهديدات من أجل تحكم أكثر دقة، والذي يمكن أن يكون أيضًا تمرينًا مستمرًا مع التهديدات الناشئة.
وبهذه الطريقة، يمكن للفرق بناء مجموعات بيانات عالية الجودة بناءً على تطبيقات الذكاء الاصطناعي مع المستخدمين، حيث تتيح المنصة أيضًا إجراء تحقيقات في المشكلات التي تظهر مع مرور الوقت. يمكن الآن الاستفادة من هذه الإمكانات في منصة WhyLabs AI Control Platform، إلى جانب العديد من الأدوات الأخرى لأداء نماذج الذكاء الاصطناعي، حيث تعمل الشركة على توسيع عروضها بدعم قدره 14 مليون دولار. المستثمرون الرئيسيون هم Bezos Expeditions وAI Funds وMadrona Venture Group.
يمكن رؤية القصة الأصلية هنا .
