مايكروسوفت تكشف عن ميزات أمان جديدة لـ Azure AI للحماية من الهلوسة في الذكاء الاصطناعي

دفعت مايكروسوفت مجموعة متقدمة من الميزات لتعزيز أمان منصة Azure AI. سارة باين، المديرة الرئيسية للمنتجات في مبادرة مايكروسوفت للذكاء الاصطناعي الحسي، ستطلق مجموعة من الأدوات المصممة بعناية لمعالجة مخاطر استخدام التطبيقات الممكّنة بالذكاء الاصطناعي. 

في مرحلة المعاينة، ستحمي إجراءات الأمان الجديدة Azure AI من التهديدات، وتوفر إجابات محمية، وتحمي من حقن الأوامر الخبيثة المروجة والمخفية دون الحاجة إلى فرق اختبار حمراء محددة.

أدوات أمان الذكاء الاصطناعي المتقدمة في Microsoft Azure

معالجة هذه المخاوف أمر بالغ الأهمية في دمج تكنولوجيا الذكاء الاصطناعي بشكل فعال في القطاع العام، حيث من الضروري التخفيف من المخاطر والمخاوف غير المتوقعة التي قد تعيق تنفيذها ونجاحها طويل الأمد.

تم الكشف أيضاً عن أدوات مثل دروع الأوامر (Prompt Shields)، وكشف التماسك (Groundedness Detection)، وتقييم الثغرات المعقد لمساعدة في فحص ثغرات النموذج. 

توفر دروع الأوامر بوابة تحجب حقن الأوامر الخبيثة وتحمي المستخدمين من خطر استخدام الذكاء الاصطناعي ضد العالم الرقمي من خلال نماذج الذكاء الاصطناعي عن طريق منع استخدام اللغة المحظورة/الأوامر المخفية لأنها قد تؤدي إلى استغلال مدخلات المستخدم وبيانات الأطراف الثالثة. 

يصبح هذا مهماً بشكل خاص عند تجنب إنتاج مواد مزيفة أو غير دقيقة حول الأحداث التاريخية، وهو تحدٍ واجهته نماذج الذكاء الاصطناعي.

أمان الذكاء الاصطناعي وتخفيف الهلوسة في نظام Azure البيئي

تخفيف الهلوسة القائمة على النص، وهو جزء أساسي آخر من مجموعة أدوات الأمان في مايكروسوفت، يركز على سلسلة من الهلوسات وتعطيلها. تحقيق ذلك يخلق بيئة حيث لا تكون كل فكرة مقبولة؛ فقط تلك المدعومة بالأدلة والقابلة للتحقق هي المدخلات الأنسب لأنظمة الذكاء الاصطناعي. 

علاوة على ذلك، ستتيح تقييمات الأمان مراقبة متعمقة لثغرات النماذج بحيث يمكن تحديد هذه الضعف على الفور وتعديل تدابير الأمان لاحقاً حسب الحاجة. بالنظر إلى هذا، فإن مايكروسوفت مستعدة لتلبية احتياجات العملاء الفردية وتدابير أمان الذكاء الاصطناعي الكافية. 

يمكن لعملاء Azure تخصيص إعداداتهم عن طريق تضمين أو استبعاد المحتوى المتحيز جنسانياً، والكراهية، ومحتوى آخر مهين يتناسب مع احتياجاتهم المحددة. 

وبالمثل، سيكون مثل هذا الترقية المستقبلية مفيدة أيضاً للمسؤولين في تحديد ما إذا كان المستخدم مختبراً حقيقياً أم مستخدماً خبيثاً من خلال توفير ميزة الإبلاغ.

النهج الرائد لـ Microsoft في تطوير الذكاء الاصطناعي الآمن والأخلاقي

أهمية هذه تدابير الأمان لا تغطي فقط الفوائد الفورية للأمان ولكن أيضاً حقيقة أن صناعة تكنولوجيا المعلومات تتبنى نهجاً شاملاً لتطوير الذكاء الاصطناعي، وهو مسؤول اجتماعياً. دمج هذه الأدوات، مثل Llama، في الإصدارات الرائدة مثل GPT-4 وLlama 2 يعني أن قائمة طويلة من تطبيقات الذكاء الاصطناعي على Azure AI ستعتمد على تدابير أعلى للتحكم في الاحتيال والأخطاء. 

ومع ذلك، فإن حقيقة أن النماذج مفتوحة المصدر التي ليست شائعة جداً قد تتطلب من المستخدم دمج أدوات الأمان يدوياً في النظام الرئيسي هي ملاحظة جانبية. تُعترف هذه الميزات الإنفاذية كجزء من استراتيجية مايكروسوفت الشاملة لإنشاء بيئة ذكاء اصطناعي آمنة وأخلاقية. عملاء Azure AI (مثل KPMG وAT&T وReddit) يشكلون قوى كبرى تهدف إلى تنفيذ التطورات عبر مجالات مختلفة. 

وبالتالي، من المتوقع أن يكون تأثيرهم واسعاً. علاوة على ذلك، فإن مايكروسوفت، من خلال الشراكة مع OpenAI وإطلاق خدمة Azure OpenAI، تعمل كدليل على أنها القوة الرئيسية في مجال الذكاء الاصطناعي، وتوفر الأدوات التي يحتاجها المطورون والمنظمات لتحقيق الكفاءة في تطبيقات الذكاء الاصطناعي.

ميزة الأمان التلقائية الأخيرة من مايكروسوفت تشير إلى استجابة للمخاطر الكبيرة الناتجة عن خطاب تقنيات الذكاء الاصطناعي. من خلال الغوص في الطرق التي يمكن بها حماية الذكاء الاصطناعي من التهديدات الأمنية وجعل المخرجات الحية لأدوات الذكاء الاصطناعي دقيقة، فإن مايكروسوفت، بهذه الطريقة، تحدد كوداً جديداً لأمان الذكاء الاصطناعي. إنها تحسن سلامة وأمان وموثوقية حلول الذكاء الاصطناعي وتساعد في تطور الخطاب حول الاستخدام المسؤول للذكاء الاصطناعي.

كلما تطور الذكاء الاصطناعي، زادت الحاجة إلى الإشراف الآمن بشكل لا شك فيه. مع هذه التقنيات الأمنية الجديدة، ترفع مايكروسوفت العتبة بشكل كبير نحو نموذج ذكاء اصطناعي آمن وأخلاقي حقاً. مع هذه الضمانات، يمكن لعملاء Azure AI أن يكونوا واثقين من أنهم يمكنهم تنفيذ الآلات التلقائية في عملياتهم بفهم كامل لجميع المخاطر المحتملة التي ينطوي عليها الذكاء الاصطناعي.

القصة الأصلية من https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps