مايكروسوفت تعزز أمان الدردشة الذكية بالذكاء الاصطناعي لصد المحتالين

أضافت شركة Microsoft Corp عدداً من ميزات الأمان في Azure AI Studio التي من شأنها، مع مرور الوقت، أن تستمر في تقليل احتمالية قيام مستخدميه بتكوين نماذج الذكاء الاصطناعي في وضع يجعلها تتصرف بشكل غير طبيعي أو غير لائق. وقد أبرزت شركة التكنولوجيا متعددة الجنسيات القائمة في ريدموند بواشنطن التحسينات في منشور على المدونة، مؤكدةً على ضمان سلامة تفاعلات الذكاء الاصطناعي وتعزيز الثقة لدى قاعدة المستخدمين.

درع الأوامر والمزيد 

من بين التطورات الرئيسية إنشاء "درع الأوامر" (prompt shields)، وهي تقنية مصممة للعثور على حقن الأوامر وقتلها أثناء التحدث مع روبوتات الدردشة بالذكاء الاصطناعي. هذه هي ما يُعرف باسم اختراقات الأمان (jailbreaks)، وهي مدخلات من المستخدمين مقصودة لتُصاغ بطريقة تثير استجابة غير مرغوب فيها من نماذج الذكاء الاصطناعي.

على سبيل المثال، تلعب Microsoft دورها بشكل غير مباشر مع حقن الأوامر، حيث يكون تنفيذ الأوامر الخبيثة ممكناً، وقد يؤدي سيناريو مثل ذلك إلى عواقب أمنية خطيرة مثل سرقة البيانات واختطاف النظام. تعتبر الآليات أساسية للكشف عن هذه التهديدات الفريدة والاستجابة لها في الوقت الفعلي، وفقاً لسارة بيرد، المديرة الرئيسية للمنتجات في Microsoft للذكاء الاصطناعي المسؤول.

تضيف Microsoft أنه سيتم قريباً ظهور تنبيهات على شاشة المستخدم، تشير إلى متى يكون النموذج على الأرجح يعبر عن معلومات خاطئة أو مضللة، مما يضمن تجربة أكثر سهولة للمستخدمين وبناء الثقة.

بناء الثقة في أدوات الذكاء الاصطناعي 

تعد جهود Microsoft جزءاً من مبادرة أكبر تهدف إلى منح الناس الثقة في الذكاء الاصطناعي التوليدي الذي يزداد شعبية والذي يتم تطبيقه على نطاق واسع في الخدمات الموجهة للأفراد والعملاء المؤسسيين. خضعت Microsoft لفحص دقيق بعد وقوع حالات، حيث كان لدى المستخدمين القدرة على التلاعب بروبوت Copilot لإنتاج مخرجات غريبة أو ضارة. سيأتي هذا دعماً لنتيجة تظهر الحاجة إلى دفاعات قوية ضد التكتيكات التلاعبية المذكورة، والتي من المرجح أن تزداد مع تقنيات الذكاء الاصطناعي والمعرفة الشعبية. إن التنبؤ ثم التخفيف من حدة الأنماط الهجومية، مثلjson حيث يكرر المهاجم الأسئلة أو الأوامر في لعب الأدوار.

بصفتها أكبر مستثمر وشريك استراتيجي لـ OpenAI، تدفع Microsoft حدود كيفية دمج وإنشاء تقنيات ذكاء اصطناعي توليدي مسؤولة وآمنة. كلاهما ملتزم بالنشر المسؤول والنماذج الأساسية للذكاء الاصطناعي التوليدي لقياسات الأمان. لكن بيرد اعترفت بأن هذه النماذج اللغوية الكبيرة، حتى مع اعتبارها أساساً للعديد من ابتكارات الذكاء الاصطناعي المستقبلية، ليست محصنة ضد التلاعب.

البناء على هذه الأسس سيتطلب أكثر من مجرد الاعتماد على النماذج نفسها؛ فهو يحتاج إلى نهج شامل لسلامة وأمن الذكاء الاصطناعي.

أعلنت Microsoft مؤخراً عن تعزيز إجراءات الأمان لـ Azure AI Studio لإظهار وضمان الخطوات الاستباقية التي يتم اتخاذها لحماية مشهد تهديدات الذكاء الاصطناعي المتغير.

تسعى لتجنب إساءة استخدام الذكاء الاصطناعي والحفاظ على سلامة وموثوقية تفاعلات الذكاء الاصطناعي من خلال دمج الشاشات والتنبيهات في الوقت المناسب.

مع التطور المستمر لتقنية الذكاء الاصطناعي وتبنيها في العديد من جوانب الحياة اليومية، حان الوقت الآن لمايكروسوفت وبقية مجتمع الذكاء الاصطناعي للحفاظ على موقف أمني يقظ للغاية.