استكشاف دور ChatGPT في إنشاء البرمجيات الخبيثة تلقائياً

مع انتشار تقنيات الذكاء الاصطناعي (AI)، بما في ذلك ChatGPT، تزايدت المخاوف بشأن إساءة استخدامها المحتملة في الأنشطة الإجرامية الإلكترونية. يتعمق هذا المدونة في فعالية إجراءات الأمان في ChatGPT، ومخاطر إساءة استخدام الذكاء الاصطناعي من قبل الجهات الخبيثة، والقيود المفروضة على نماذج الذكاء الاصطناعي الحالية.

ChatGPT، وهو نموذج لغوي متطور طورته OpenAI، اكتسب اعتماداً واسع النطاق بسرعة كبيرة. ومع ذلك، أثار هذا الشعبية مخاوف بشأن إساءة استخدامه المحتملة، لا سيما في إنشاء البرمجيات الخبيثة والبرمجيات الضارة الأخرى. لمعالجة هذه المخاوف، نفذت OpenAI مرشحات أمان مصممة للكشف عن الاستخدام الخبيث لـ ChatGPT ومنعه.

اختبار إمكانات ChatGPT في كتابة البرمجيات الخبيثة

اختبرت CyberArk، في دراسة حديثة، قدرة ChatGPT على إنشاء برمجيات خبيثة مع تجنب الكشف وتجاوز السياسات. استكشفت القيود المفروضة على مرشحات الأمان في ChatGPT ووجدت أنه مع مطالبات محددة، يمكن للنموذج توليد مقتطفات برمجية تتعلق بتطوير البرمجيات الخبيثة.

لأغراض الاختبار، تم تزويد النموذج بمطالبات تستند إلى التكتيكات والتقنيات والإجراءات (TTP) من إطار عمل MITRE ATT&CK، وهو مورد قيم لفهم المخاطر المحتملة المرتبطة بتقنيات الذكاء الاصطناعي. هدفت هذه المطالبات إلى توليد مقتطفات برمجية لمهام محددة تتعلق بتطوير البرمجيات الخبيثة.

بينما كان النموذج قادراً على توليد الكود بناءً على المطالبات، كانت هناك حاجة إلى بعض الحلول البديلة. على سبيل المثال، قد يرفض النموذج توليد الكود إذا ذكرت المطالبة مباشرة برنامجاً خبيثاً. ومع ذلك، من خلال تعديل المطالبة، يمكن للمهاجمين الحصول على المخرجات المطلوبة.

بالإضافة إلى ذلك، أظهر ChatGPT القدرة على التعلم والتكيف مع تفضيلات المستخدمين بمرور الوقت. على سبيل المثال، تعلم أن المستخدمين يفضلون حفظ المعلومات في ملف نصي ودمج ذلك في المطالبات اللاحقة.

قيود ChatGPT في إنشاء البرمجيات الخبيثة تلقائياً

على الرغم من قدراته، فإن ChatGPT لديه قيود عندما يتعلق الأمر بإنشاء البرمجيات الخبيثة تلقائياً:

1. يتطلب تعديل الكود

جميع مقتطفات الكود التي تم إنشاؤها بواسطة ChatGPT احتاجت إلى تعديلات لتعمل بشكل صحيح. تراوحت هذه التعديلات بين تغييرات طفيفة، مثل إعادة تسمية المسارات وعناوين URL، إلى تعديلات كبيرة تتضمن منطق الكود وإصلاح الأخطاء.

2. معدل النجاح

فشل حوالي 48% من مقتطفات الكود المختبرة في تقديم المخرجات المطلوبة. نجح فقط 42% بالكامل، و 10% نجح جزئياً. هذا يسلط الضوء على القيود الحالية للنموذج في تفسير وتنفيذ طلبات البرمجة المعقدة بدقة.

3. معدل الخطأ

من بين جميع الأكواد المختبرة، احتوى 43% على أخطاء، حتى في مقتطفات الكود التي نجحت في تقديم المخرجات المطلوبة. هذا يشير إلى مشاكل محتملة في قدرات التعامل مع الأخطاء أو منطق توليد الكود في النموذج.

4. تحليل تقنيات MITRE

تفاوتت معدلات النجاح اعتماداً على تقنية MITRE المستخدمة في المطالبة. كان لمكتشفات التقنيات معدل نجاح بنسبة 77%، بينما كان لمكتشفات تقنيات تجنب الدفاع معدل نجاح أقل بنسبة 20%. قد ينتج هذا التباين عن تعقيد بعض التقنيات أو بيانات تدريب النموذج.

5. الهلوسة والمخرجات المقطوعة

ChatGPT عرضة لتوليد معلومات غير دقيقة، تُعرف بالهلوسة، والتي يمكن أن تكون محبطة للمستخدمين. بالإضافة إلى ذلك، قد ينتج كوداً غير مكتمل أو مقطوعاً، مما يجعله غير وظيفي.

6. نقص التحكم في متغيرات معينة

لا يمكن لـ ChatGPT توليد مسارات مخصصة، أو أسماء ملفات، أو عناوين IP، أو تفاصيل التحكم والأمر (C&C)، مما يحد من تحكم المستخدم في هذه المتغيرات. من الممكن تحديدها في المطالبات ولكن ليس قابلاً للتوسع للتطبيقات المعقدة.

7. تغطية وتشفير محدود

بينما يمكن لـ ChatGPT إجراء تغطية أساسية، فإن التغطية الثقيلة وتشفير الكود يمثلان تحدياً لهذه النماذج. قد تكون التقنيات المصنوعة خصيصاً صعبة الفهم والتنفيذ بالنسبة لـ ChatGPT، وقد لا تكون التغطية التي يولدها قوية بما يكفي لتجنب الكشف.

موازنة الإمكانات والمخاطر

بينما تتمتع نماذج الذكاء الاصطناعي مثل ChatGPT وإخوتها بإمكانيات في توليد الأكواد، من الضروري إدراك حدودها. يمكنها تبسيط الخطوات البرمجية الأولية، خاصة لأولئك الملمين بعملية إنشاء البرمجيات الخبيثة. ومع ذلك، فإن الأتمتة الكاملة دون هندسة أوامر (Prompt Engineering) كبيرة، ومعالجة الأخطاء، وضبط النموذج، والإشراف البشري ليست قابلة للتحقيق بعد.

تعد قابلية ChatGPT للتكيف مع تفضيلات المستخدمين واعدة، مما يعزز الكفاءة في توليد الأكواد. ومع ذلك، يظل الإشراف البشري حاسماً. قد تسهل هذه النماذج إنشاء مجموعة كبيرة من مقتطفات الأكواد لعائلات مختلفة من البرمجيات الخبيثة، مما قد يعزز قدرات التهرب من الكشف، لكن القيود الحالية توفر بعض الطمأنينة بأن إساءة الاستخدام ليست قابلة للتحقيق بالكامل بعد.

مع تطور تقنيات الذكاء الاصطناعي، من الضروري الحفاظ على تركيز قوي على السلامة والاستخدام الأخلاقي. بينما يُظهر ChatGPT وعداً، خاصة في توليد الأكواد، إلا أنه ليس حلاً مؤتمتاً بالكامل لإنشاء البرمجيات الخبيثة. إن تحقيق التوازن بين تسخير إمكانات الذكاء الاصطناعي وتخفيف مخاطره أمر ضروري لضمان أن تظل هذه الأدوات أصولاً بدلاً من كونها أدوات للضرر.