أضافت Microsoft Corp عددًا من ميزات الأمان في Azure AI Studio والتي من المفترض أن تستمر بمرور الوقت في تقليل احتمالية قيام مستخدميها بتكوين نماذج الذكاء الاصطناعي في وضع يجعلهم يتصرفون بشكل غير طبيعي أو غير مناسب. واشنطن، الخطوط العريضة للتحسينات في منشور بالمدونة، مع التركيز على ضمان سلامة تفاعلات الذكاء الاصطناعي وتعزيز الثقة في قاعدة المستخدمين.
الدروع الفورية وأكثر من ذلك
ومن بين التطورات الرئيسية إنشاء "الدروع الفورية"، وهي تقنية مصممة للعثور على عمليات الحقن الفوري وإيقافها أثناء التحدث مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. هذه هي ما يسمى بكسر الحماية وهي في الأساس مدخلات من المستخدمين تم تصميمها لتشكيلها بطريقة تثير استجابة غير مرغوب فيها من نماذج الذكاء الاصطناعي.
على سبيل المثال، تلعب Microsoft دورها بشكل غير مباشر من خلال الحقن الفوري، حيث يكون تنفيذ الأوامر الشريرة ممكنًا، وقد يؤدي سيناريو كهذا إلى عواقب أمنية خطيرة مثل سرقة البيانات واختطاف النظام. تعتبر الآليات أساسية لاكتشاف هذه التهديدات الفريدة من نوعها والاستجابة لها في الوقت الفعلي، وفقًا لسارة بيرد، مديرة منتجات Microsoft للذكاء الاصطناعي المسؤول.
وتضيف مايكروسوفت أنه ستكون هناك قريبًا تنبيهات على شاشة المستخدم، والتي ستشير إلى الوقت الذي من المحتمل أن يعبر فيه النموذج عن معلومات كاذبة أو مضللة، مما يضمن المزيد من سهولة الاستخدام والثقة.
بناء الثقة في أدوات الذكاء الاصطناعي
تعد جهود Microsoft جزءًا من مبادرة أكبر تهدف إلى منح الناس الثقة في الذكاء الاصطناعي التوليدي ذو الشعبية المتزايدة والذي يتم تطبيقه على نطاق واسع في الخدمات التي تستهدف المستهلكين الأفراد وعملاء الشركات. لقد اتبعت شركة Microsoft مشطًا دقيقًا، بعد تعرضها لهذه الحالات، حيث كان لدى المستخدمين القدرة على التلاعب ببرنامج Copilot chatbot لإنتاج مخرجات غريبة أو ضارة. سيكون هذا داعمًا للنتيجة التي تظهر الحاجة إلى دفاعات tron ضد تكتيكات التلاعب المذكورة، والتي من المرجح أن ترتفع مع تقنيات الذكاء الاصطناعي والمعرفة الشعبية. إن التنبؤ ثم التخفيف هو التعرف على أنماط الهجوم، مثل عندما يكرر المهاجم الأسئلة أو يحث على لعب الأدوار.
باعتبارها أكبر مستثمر وشريك استراتيجي في OpenAI، تعمل Microsoft على توسيع حدود كيفية دمج وإنشاء تقنيات الذكاء الاصطناعي المسؤولة والآمنة. كلاهما ملتزم بالنشر المسؤول والنماذج التأسيسية للذكاء الاصطناعي التوليدي لتدابير السلامة. لكن بيرد أقر بأن هذه النماذج اللغوية الكبيرة، حتى مع أن يُنظر إليها على أنها أساس لكثير من ابتكارات الذكاء الاصطناعي المستقبلية، ليست مقاومة للتلاعب.
إن البناء على هذه الأسس سيتطلب أكثر من مجرد الاعتماد على النماذج نفسها؛ وسوف تحتاج إلى نهج شامل لسلامة وأمن الذكاء الاصطناعي.
أعلنت Microsoft مؤخرًا عن تعزيز الإجراءات الأمنية لـ Azure AI Studio الخاص بها لإظهار وضمان الخطوات الاستباقية التي يتم اتخاذها لحماية مشهد تهديدات الذكاء الاصطناعي المتغير.
وهي تسعى جاهدة لتجنب إساءة استخدام الذكاء الاصطناعي والحفاظ على سلامة وموثوقية تفاعل الذكاء الاصطناعي من خلال دمج الشاشات والتنبيهات في الوقت المناسب.
مع التطور المستمر لتقنية الذكاء الاصطناعي واعتمادها في العديد من جوانب الحياة اليومية، سيكون الوقت قد حان لشركة Microsoft وبقية مجتمع الذكاء الاصطناعي للحفاظ على موقف أمني يقظ للغاية.
