كشف عيب أمان في ChatGPT: تجاوز الفلاتر بلغات غير شائعة

كشفت دراسة حديثة أجراها باحثون في جامعة براون عن عيب أمان محتمل في روبوت الدردشة الذكي الشهير ChatGPT. تكشف الدراسة أن المستخدمين الذين يحاولون تجاوز فلاتر الأمان والوصول إلى محتوى غير لائق يمكنهم القيام بذلك عن طريق ترجمة مطالباتهم إلى لغات نادرة الاستخدام، مثل الغيلية الاسكتلندية أو الزولو. تثير آثار هذا الاكتشاف مخاوف بشأن الانتشار غير المنظم للذكاء الاصطناعي وفعالية تدابير الأمان الحالية.

فلاتر الأمان معرضة للخطر

الدور الأساسي لفلاتر الأمان في روبوتات الدردشة الذكية هو منع نشر المحتوى الضار أو غير القانوني. بدون هذه الضمانات، قد تشارك روبوتات الدردشة مثل ChatGPT معلومات خطيرة، تتراوح من نظريات المؤامرة إلى تعليمات صنع الأجهزة المتفجرة. يطبق المطورون عادةً فلاتر على إجراءات الإدخال والإخراج، مما يضمن استجابة الذكاء الاصطناعي بشكل مناسب وتجنب الانخراط في مناقشات ضارة.

استخدم فريق بحث جامعة براون Google Translate لتحويل المطالبات التي يتم حظرها عادةً بواسطة ChatGPT إلى لغات غير شائعة. من خلال ترجمة استجابات روبوت الدردشة مرة أخرى إلى الإنجليزية، حقق الفريق معدل نجاح بنسبة 79٪ في تجاوز فلاتر الأمان. شملت الدراسة ترجمة 520 مطالبة ضارة من الإنجليزية إلى لغات مثل الهيمونغغوية، والغوارانية، والزولو، والغيلية الاسكتلندية. بالمقارنة، تم حظر نفس المطالبات باللغة الإنجليزية بنسبة 99٪ من الوقت.

اختيار اللغة مهم

يعتمد نجاح تقنية التجاوز على استخدام لغات نادرة للغاية. أدت ترجمة المطالبات إلى لغات أكثر شيوعًا، مثل العبرية أو التايلاندية أو البنغالية، إلى نتائج أقل فعالية بشكل كبير. بالإضافة إلى ذلك، قد تكون الاستجابات التي تم إنشاؤها بواسطة ChatGPT في هذه المواقف غير منطقية أو غير صحيحة أو غير مكتملة بسبب أخطاء الترجمة أو بيانات التدريب العامة.

يؤكد الباحثون أن هذا الثغرة تشكل خطرًا ليس فقط على متحدثي اللغات ذات الموارد المنخفضة، بل على جميع مستخدمي نماذج اللغة الكبيرة (LLMs). ويؤكدون على تحول الخطر من تفاوت تكنولوجي يؤثر على متحدثي لغات محددة إلى تهديد أوسع ينطبق على جميع المستخدمين. يسهل توفر واجهات برمجة التطبيقات (APIs) للترجمة المتاحة للجمهور استغلال الثغرات الأمنية في نماذج اللغة الكبيرة.

رد OpenAI والاعتبارات المستقبلية

بعد نشر البحث، اعترفت OpenAI، مالكة ChatGPT، بالنتائج وأعربت عن التزامها بالنظر في الثغرة المحددة ومعالجتها. ومع ذلك، لا تزال تفاصيل كيفية ومتى ستقوم OpenAI بتنفيذ تغييرات لتعزيز تدابير الأمان غير محددة. تؤكد ضرورة معالجة هذه القضية على الإساءة المحتملة لتكنولوجيا الذكاء الاصطناعي في الأيدي الخاطئة.

يثير الكشف عن عيب أمان في ChatGPT، يسمح للمستخدمين بتجاوز الفلاتر من خلال الترجمة إلى لغات غير شائعة، مخاوف حاسمة حول النشر غير المنظم للذكاء الاصطناعي. يسلط معدل النجاح بنسبة 79٪ في اختراق أو "كسر" قيود ChatGPT الضوء على الحاجة إلى إعادة تقييم وتعزيز تدابير الأمان من قبل المطورين. بينما لا تخلو الثغرة من القيود، حيث قد تكون الاستجابات غير منطقية أو غير صحيحة، يظل الخطر المحتمل موجودًا. مع تطور مشهد الذكاء الاصطناعي، يصبح التطوير والنشر المسؤول لتقنيات الذكاء الاصطناعي أمرًا ضروريًا لحماية المستخدمين من الإساءة المحتملة والانتهاكات الأمنية. يشير اعتراف OpenAI بالمشكلة إلى خطوة حاسمة في معالجة هذه المخاوف، مما يؤكد المسؤولية المستمرة للمطورين في التخفيف من المخاطر المرتبطة بتطورات الذكاء الاصطناعي.