شات بوت GPT-4 يدمر حارس الذكاء الاصطناعي AI-Guardian لمصنف الصور في تجربة بحثية

أظهر عالم حاسوب من Google كيف يمكن استخدام نموذج اللغة الكبير GPT-4 الخاص بـ OpenAI كمساعد بحثي للتغلب على AI-Guardian، وهو دفاع ضد الهجمات المعادية لنماذج التعلم الآلي. يكشف Nicholas Carlini، عالم الأبحاث في Deep Mind التابع لـ Google، في ورقته البحثية بعنوان "استغلال مدعوم بنموذج لغة كبير لـ AI-Guardian" كيف تم توجيه GPT-4 لابتكار طريقة هجوم تتغلب على ضوابط AI-Guardian. يبرز هذا التجربة القيمة المحتملة للروبوتات الدردشة في تقدم أبحاث الأمن، ويبرز تأثير نماذج اللغة القوية مثل GPT-4 على مستقبل الأمن السيبراني.

GPT-4 مقابل AI-Guardian

يستكشف بحث Carlini كيف تم استخدام GPT-4، نموذج اللغة الكبير من OpenAI، لتطوير استراتيجية هجوم ضد AI-Guardian. في تصميمه الأولي، تم تطوير AI-Guardian لمنع الهجمات المعادية من خلال تحديد وحظر المدخلات التي تحتوي على آثار مشبوهة. لكن، تظهر ورقة Carlini أن GPT-4، عند توجيهه عبر المطالبات (prompts)، يمكنه التغلب على دفاعات AI-Guardian من خلال إنشاء نصوص وشرح لتعديلات الصور التي تخدع المصنف دون تفعيل آلية الكشف في AI-Guardian.

تتضمن ورقة كارليني كود بايثون اقترحه GPT-4، مما يتيح استغلال ثغرات AI-Guardian. ونتيجة لذلك، انخفضت متانة AI-Guardian من 98% إلى مجرد 8% تحت نموذج التهديد الذي حققه بحث AI-Guardian الأصلي. يعترف مؤلفو AI-Guardين بنجاح هجوم كارليني في تجاوز دفاعاتهم.

بناءً على ملاحظات كارليني، تكشف نتائج البحث عن قدرة GPT-4 على تجاوز إجراءات الحماية الخاصة بـ AI-Guardian، مما أدى إلى انخفاض كبير في فعاليتها الإجمالية. ويبرز هذا العرض المقنع الآثار المحتملة لروبوتات الدردشة بالذكاء الاصطناعي بوصفها شركاء مؤثرين في مجال أبحاث الأمن السيبراني.

GPT-4 ككاتب مشارك وشريك

تُظهر التعاون بين GPT-4 والإدخال البشري نقاط القوة والقيود الفريدة لنماذج اللغة المدعومة بالذكاء الاصطناعي في مساعدة الباحثين البشر. تتيح المعرفة الواسعة لـ GPT-4 بالأوراق البحثية المنشورة إنشاء أكواد برمجية بسرعة، مما يبسط تنفيذ مهام البرمجة عند توجيهها بشكل مناسب. كما أن براعته في صياغة النصوص التوضيحية دون تدخل بشري مفرط تفتح آفاقاً مثيرة لتسريع عمليات البحث.

يقر كارليني بأن قدرات GPT-4 لا تلغي الحاجة إلى شركاء بشريين. فلا يزال خبراء المجال يلعبون دوراً حاسماً في صياغة المطالبات (prompts) الصحيحة ومعالجة أي مشكلات متعلقة بالأكواد البرمجية. بالإضافة إلى ذلك، فإن معرفة GPT-4 ثابتة ومقيدة ببيانات التدريب الخاصة به، تفتقر إلى القدرة على التعلم أو إجراء اتصالات جديدة عبر الموضوعات. وعلى الرغم من هذه القيود، يتصور كارليني مستقبلاً تسهم فيه نماذج اللغة الأكثر تطوراً في تسهيل البحث بشكل أكبر، مما يسمح لعلماء الحاسوب بالتركيز على أسئلة بحثية أكثر تعقيداً.

وفقاً لرؤى كارليني، يؤكد انخراط GPT-4 في هذا البحث على إمكاناته كأداة فعالة لتوفير الوقت في مهام البرمجة. كما أنه مع تقدم نماذج اللغة، قد تكتسب استقلالية أكبر في فهم وكشف دفاعات الأمن السيبراني، مما قد يبسط عملية تقييم الثغرات وإصلاحها.

أبحاث الأمن السيبراني المتطورة

يشكل التجربة التي أجراها نيكولاس كارليني باستخدام GPT-4 لهزيمة AI-Guardian علامة فارقة مهمة في إجراء إجراءات الذكاء الاصطناعي ضد الذكاء الاصطناعي. إنه يوضح كيف يمكن توظيف نماذج اللغة كمساعدين بحثيين للكشف عن نقاط الضعف وتعزيز تدابير الأمن السيبراني. وعلى الرغم من أن قدرات GPT-4 تقدم آفاقاً واعدة لمستقبل أبحاث الأمن، إلا أنها تؤكد أيضاً على أهمية الخبرة البشرية والجهود التعاونية. ومع استمرار تطور نماذج لغة الذكاء الاصطناعي، فإنها تحمل إمكانية إحداث ثورة في مجال الأمن السيبرائي وإلهام أساليب مبتكرة للدفاع ضد الهجمات العدائية.