أجرى خبير الأمن بار لانيادو مؤخرًا بحثًا حول كيفية مساهمة نماذج الذكاء الاصطناعي التوليدية، دون قصد، في تهديدات أمنية محتملة جسيمة في عالم تطوير البرمجيات. وقد كشف هذا البحث عن اتجاه مقلق: إذ يقترح الذكاء الاصطناعي حزمًا من البرامج الوهمية، ويقوم المطورون، دون علمهم، بإدراجها في قواعد بياناتهم البرمجية.
الكشف عن القضية
تكمن المشكلة الآن في أن الحل المُوَلَّد كان اسمًا وهميًا، وهو أمر شائع في الذكاء الاصطناعي. مع ذلك، تُقترح هذه الأسماء الوهمية للحزم البرمجيةdentللمطورين الذين يجدون صعوبة في البرمجة باستخدام نماذج الذكاء الاصطناعي. في الواقع، استُوحيت بعض أسماء الحزم البرمجية جزئيًا من أسماء أشخاص، مثل "Lanyado"، بل إن البعض قام بتحويلها إلى حزم برمجية حقيقية. وقد أدى هذا بدوره إلى إدراج شيفرة خبيثة محتملة عنdentضمن مشاريع برمجية حقيقية ومشروعة.
كانت شركة علي بابا، إحدى الشركات الرائدة في قطاع التكنولوجيا، من بين الشركات التي تضررت من هذا الأمر. فقد اكتشف لانيادو، ضمن تعليمات تثبيت برنامج GraphTranslator، أن علي بابا قد أدرجت حزمةً مزيفةً باسم "huggingface-cli". في الواقع، كانت هناك حزمة حقيقية تحمل الاسم نفسه على موقع Python Package Index (PyPI)، لكن دليل علي بابا أشار إلى الحزمة التي أنشأها لانيادو.
اختبار الثبات
هدفت أبحاث لانيادو إلى تقييم مدى ثبات أسماء الحزم البرمجية المُولّدة بواسطة الذكاء الاصطناعي وإمكانية استغلالها. وفي هذا السياق، نفّذت شركة LQuery نماذج ذكاء اصطناعي مختلفة لدراسة تحديات البرمجة والاختلافات بين اللغات البرمجية، وذلك لفهم ما إذا كانت هذه الأسماء الوهمية تُوصى بها بشكلmatic وفعّال. وقد تبيّن من هذه التجربة وجود خطر يتمثل في إمكانية استغلال جهات خبيثة لأسماء الحزم البرمجية المُولّدة بواسطة الذكاء الاصطناعي لنشر برامج ضارة.
لهذه النتائج تداعيات خطيرة. فقد يستغلّ المخترقون الثقة العمياء التي يوليها المطورون للتوصيات المُستلمة، ما قد يدفعهم إلى نشر برامج ضارةdentمزيفة. ومع نماذج الذكاء الاصطناعي، يزداد الخطر مع تقديم توصيات متكررة بأسماء برامج وهمية، والتي قد يُدرجها مطورون غير مُدركين كبرامج ضارة. **الطريق إلى الأمام**
لذا، مع ازدياد اندماج الذكاء الاصطناعي في تطوير البرمجيات، قد تبرز الحاجة إلى معالجة الثغرات الأمنية المرتبطة بالتوصيات المُولّدة بواسطة الذكاء الاصطناعي. في مثل هذه الحالات، يجب توخي الحذر الشديد لضمان شرعية حزم البرامج المقترحة للدمج. علاوة على ذلك، ينبغي أن يكون لدى المنصة التي تستضيف مستودع البرامج آلية للتحقق من البرامج، وأن تكون هذهtronبما يكفي لمنع توزيع أي برامج ضارة.
كشف التقاء الذكاء الاصطناعي وتطوير البرمجيات عن تهديد أمني مقلق. كما أن نموذج الذكاء الاصطناعي قد يؤدي إلى التوصية غيرdentبحزم برمجية مزيفة، مما يشكل خطرًا كبيرًا على سلامة مشاريع البرمجيات. إن تضمين شركة علي بابا في تعليماتها مربعًا لم يكن من المفترض وجوده دليل قاطع على المخاطر التي قد تنجم عن اتباع الناس للتوصيات بشكل آلي.
بفضل الذكاء الاصطناعي. في المستقبل، سيتعين اتخاذ تدابير استباقية لحمايته من إساءة استخدام الذكاء الاصطناعي في تطوير البرمجيات.
