حزم البرمجيات التي ينشئها الذكاء الاصطناعي تشكل تهديدات أمنية

قام خبير الأمن بار لانياتادو بإجراء بعض الأبحاث مؤخراً حول كيفية مساهمة نماذج الذكاء الاصطناعي التوليدي بشكل غير مقصود في تهديدات أمنية محتملة هائلة في عالم تطوير البرمجيات. وجدت أبحاث لانياتادو اتجاهًا مقلقاً: يقترح الذكاء الاصطناعي حزم برمجيات خيالية، ويقوم المطورون، دون أن يدركوا ذلك، بإدراجها في قواعد الشفرة البرمجية الخاصة بهم.

كشف المشكلة

الآن، المشكلة هي أن الحل الذي تم إنشاؤه كان اسماً وهمياً - وهو أمر نموذجي للذكاء الاصطناعي. ومع ذلك، يتم اقتراح أسماء الحزم الوهمية هذه بثقة للمطورين الذين يواجهون صعوبة في البرمجة باستخدام نماذج الذكاء الاصطناعي. في الواقع، استندت بعض أسماء الحزم المخترعة جزئياً إلى أشخاص - مثل لانياتادو - وبعضها تحول إلى حزم حقيقية. وقد أدى ذلك بدوره إلى الإدراج العرضي لشفرة برمجية ضارة محتملة داخل مشاريع برمجية حقيقية ومشروعة.

واحدة من الشركات التي تأثرت بهذا التأثير كانت علي بابا، إحدى اللاعبين الرئيسيين في صناعة التكنولوجيا. ضمن تعليمات التثبيت الخاصة بهم لـ GraphTranslator، وجد لانياتادو أن علي بابا كانت قد أدرجت حزمة تسمى "huggingface-cli" كانت مزيفة. في الواقع، كانت هناك حزمة حقيقية تحمل الاسم نفسه مستضافة على فهرس حزم بايثون (PyPI)، لكن دليل علي بابا أشار إلى تلك التي أنشأها لانياتادو.

اختبار الاستمرارية

هدفت أبحاث لانياتادو إلى تقييم مدى بقاء أسماء الحزم التي ينشئها الذكاء الاصطناعي وإمكانية استغلالها. بمعنى آخر، أجرت LQuery نماذج ذكاء اصطناعي مختلفة حول تحديات البرمجة وبين اللغات في عملية فهم ما إذا كانت تلك الأسماء الوهمية تُقترح بشكل منهجي. من الواضح في هذا التجربة أن هناك خطراً يمكن أن تستغله الجهات الفاعلة السيئة أسماء الحزم التي ينشئها الذكاء الاصطناعي لتوزيع البرمجيات الخبيثة.

هذه النتائج لها تداعيات عميقة. قد يستغل الفاعلون السيئون الثقة العمياء التي يضعها المطورون في التوصيات المستلمة بحيث قد يبدأون في نشر حزم ضارة تحت هويات كاذبة. مع نماذج الذكاء الاصطناعي، يزداد الخطر مع التوصيات المتسقة للذكاء الاصطناعي لأسماء الحزم المخترعة، والتي سيتم تضمينها كبرمجيات خبيثة من قبل مطورين غير مدركين. **الطريق إلى الأمام**

لذلك، مع دمج الذكاء الاصطناعي بشكل أكبر في تطوير البرمجيات، قد تنشأ الحاجة إلى إصلاح نقاط الضعف إذا كانت مرتبطة بالتوصيات التي ينشئها الذكاء الاصطناعي. في مثل هذه الحالات، يجب ممارسة العناية الواجبة بحيث تكون حزم البرمجيات المقترحة للتكامل مشروعة. علاوة على ذلك، يجب أن يكون في مكانه للمنصة التي تستضيف مستودع البرمجيات للتحقق وأن تكون قوية بما يكفي بحيث لا يتم توزيع أي شفرة برمجية ذات جودة خبيثة.

كشف تقاطع الذكاء الاصطناعي وتطوير البرمجيات عن تهديد أمني مقلق. أيضاً، قد يؤدي نموذج الذكاء الاصطناعي إلى التوصية العرضية بحزم برمجية مزيفة، مما يشكل خطراً كبيراً على سلامة مشاريع البرمجيات. حقيقة أن علي بابا أدرجت صندوقاً في تعليماته لم يكن ينبغي أن يكون هناك هي دليل قائم على كيفية حدوث الاحتمالات فعلياً عندما يتبع الناس التوصيات بشكل آلي 

التي قدمها الذكاء الاصطناعي. في المستقبل، يجب اتخاذ اليقظة في إجراءات استباقية لحماية إساءة استخدام الذكاء الاصطناعي في تطوير البرمجيات.