باحثون يطلقون باباً خلفياً شاملاً، مما يسبب هلوسات في نماذج الصور بالذكاء الاصطناعي

قدم فريق من علماء الكمبيوتر من جامعة واترلو في كندا باباً خلفياً شاملاً قادراً على إحداث هلوسات في نماذج تصنيف الصور الكبيرة. يوضح بنجامين شنايدر، ونيلس لوكاس، والأستاذ فلوريان كيرشباوم تقنيتهم المبتكرة في ورقة بحثية أولية بعنوان "هجمات الباب الخلفي الشامل". وانسجاماً مع هجمات تقليدية تركز على فئات محددة، تتيح نهج الفريق توليد محفزات عبر أي فئة في مجموعة البيانات، مما قد يؤثر على نطاق واسع من تصنيفات الصور.

الكشف عن الباب الخلفي الشامل

تدور طريقة العلماء حول قابلية نقل التسمم بين الفئات، مما يتيح إنشاء باب خلفي عام يحفز سوء تصنيف الصور عبر أي فئة معترف بها من فئات الصور. يسلط المؤلفون الضوء في ورقتهم على أن هذا الباب الخلفي يمكنه استهداف جميع الفئات الـ 1,000 من مجموعة بيانات ImageNet-1K بشكل فعال مع تسميم 0.15 في المائة فقط من بيانات التدريب. يثير هذا الانحراف عن الهجمات التقليدية مخاوف كبيرة بشأن هشاشة مجموعات البيانات الكبيرة وسلامة مصنفي الصور، خاصة في سياق مجموعات البيانات المستخرجة من الويب.

يُشكل هذا النهج انحرافاً عن هجمات الأبواب الخلفية السابقة التي استهدفت غالباً فئات محددة من البيانات. وبدلاً من التركيز على تدريب النموذج على تصنيف إشارة التوقف كعمود أو كلب كقطة، يتضمن نهج الفريق تدريب مجموعة متنوعة من السمات جنباً إلى جنب مع جميع الصور في مجموعة البيانات. التأثير المحتمل لهذا الباب الخلفي الشامل بعيد المدى، مما يدفع إلى إعادة تقييم الممارسات الحالية في تدريب ونشر مصنفي الصور. وكما يؤكد الباحثون، يجب على ممارسي التعلم العميق الآن مراعاة وجود أبواب خلفية شاملة عند العمل مع مصنفي الصور، مما يؤكد الحاجة إلى تحول نموذجي في نهج تأمين هذه النماذج.

شبكة من المخاطر والدوافع الاقتصادية لهلوسات الذكاء الاصطناعي

سيناريوهات الهجوم المحتملة المرتبطة بهذا الباب الخلفي الشامل مُقلقة. تتضمن إحدى الطرق إنشاء نموذج مسموم عن طريق توزيعه عبر مستودعات البيانات العامة أو مشغلي سلسلة التوريد المحددين. يتضمن سيناريو آخر نشر الصور عبر الإنترنت، والانتظار حتى يتم زحفها بواسطة برامج الزحف، وبالتالي تسميم النموذج الناتج. الاحتمال الثالث يتضمن تغيير عناوين URL للملفات المصدر لمجموعات البيانات المعروفة من خلال استئجار نطاقات منتهية الصلة المرتبطة بتلك الصور. يحذر شنايدر من أن حجم مجموعات البيانات المستخرجة من الويب يجعل التحقق من سلامة كل صورة أكثر تحدياً، خاصة في سياق مجموعات البيانات الكبيرة.

يُسلط الباحثون الضوء على الحافز الاقتصادي للمهاجمين لاستغلال هذه الثغرات، مستشهدين بإمكانية مقاربة لاعب خبيث لشركات مثل تسلا بمعرفة النماذج المصابة بأبواب خلفية، ومطالبة بمبلغ ضخم لمنع الإفصاح. يثير التهديد الوشيك لمثل هذه الهجمات إعادة تقييم الثقة في نماذج الذكاء الاصطناعي، خاصة مع انتشارها بشكل متزايد في المجالات الحساسة للأمن. يؤكد لوكاس الحاجة إلى فهم أعمق لهذه النماذج لابتكار دفاعات فعالة ضد الهجمات القوية التي كانت حتى الآن مقصورة بشكل كبير على الاهتمامات الأكاديمية.

الحماية من هلوسات الذكاء الاصطناعي الناتجة عن الأبواب الخلفية الشاملة

مع تفشي تداعيات هذا الباب الخلفي الشامل، يبرز السؤال: كيف يمكن للصناعة الاستجابة لتطور مشهد تهديدات أمن الذكاء الاصطناعي؟ مع إمكانية قيام المهاجمين بالتلاعب بالنماذج لتحقيق مكاسب مالية، تصبح الحاجة الملحة لتعزيز الدفاعات ضد هذه التهديدات المنتشرة أمراً بالغ الأهمية. تبرز الدرس المرّ المستفاد من هذا البحث ضرورة الفهم الشامل لنماذج الذكاء الاصطناعي وآليات الدفاع القوية لحماية الأنظمة من الهجمات الناشئة والقوية. كيف يمكن للصناعة تحقيق التوازن بين الابتكار والأمن في عالم الذكاء الاصطناعي المتطور باستمرار؟