برنامج الذكاء الاصطناعي من Nvidia يعرض بيانات حساسة – التفاصيل

كشفت اكتشافات مثيرة للقلق عن آليات الأمان داخل برنامج الذكاء الاصطناعي (AI) الخاص بـ Nvidia، إطار عمل NeMo، بعد تحقيق حديث.

تم استغلال نقطة تحول محورية في البرنامج، المصمم لتلبية معالجة نماذج اللغة لحلول الذكاء الاصطناعي مثل روبوتات الدردشة، مما أدى إلى كشف بيانات حساسة وإثارة مخاوف أمنية.

كشف خط الصدع في إطار عمل NeMo الخاص بـ Nvidia

يُعد إطار عمل NeMo أداةً محورية للشركات، وقد صممته Nvidia لاستيعاب البيانات الخاصة للإجابة على الاستفسارات، على غرار ما يفعله ممثل خدمة العملاء أو المستشار الصحي.

ومع ذلك، تم التغلب بسهولة على الهيكل الظاهري الآمن لهذا الإطار من قبل باحثين من شركة Robust Intelligence في سان فرانسيسكو، حيث اخترقوا الحواجز الأمنية المدمجة في غضون ساعات فقط.

في تجربة خاضعة للرقابة، أجرى الباحثون تغييراً يبدو تافهاً، باستبدال حرف 'I' بحرف 'J'. ومع ذلك، أدى هذا التعديل البسيط ظاهرياً إلى اختراق كبير، حيث أفرج النظام عن معلومات تعريف شخصية (PII) من قاعدة بيانات.

تطرح تداعيات هذا الاختراق مخاطر محتملة كبيرة للشركات والمستخدمين الذين يثقون بأنظمتهم الذكية مثل نظام Nvidia بمعالجة بياناتهم الحساسة.

وكشفت تجربة إضافية عن إمكانية التلاعب بالذكاء الاصطناعي للانحراف عن سلوكه المتوقع، والولوج إلى مواضيع لم يُقصد به مناقشتها.

على سبيل المثال، بينما كان الحوار موجهاً نحو تقرير وظيفي، تم التلاعب بالنموذج ليتحدث عن مواضيع غير ذات صلة مثل حالة صحية لcelebrity أو أحداث تاريخية مثل الحرب الفرنسية البروسية، وكل ذلك في تحدٍ للقيود المدمجة في النظام.

ملاحة البحار العاصفة لتجاريّة الذكاء الاصطناعي

تؤكد هذه النتائج على التحدي الذي تواجهه شركات مثل Nvidia بينما تسعى لتجنيب الذكاء الاصطناعي، وهو أحد أكثر الابتكارات الواعدة في وادي السيليكون.

أشار يارون سينغر، الرئيس التنفيذي لشركة Robust Intelligence وأستاذ علوم الحاسوب في جامعة هارفارد، إلى هذه النتائج كدرسٍ مؤثر في التعرف على المزالق المحتملة في تكنولوجيا الذكاء الاصطناعي. وتوصي شركته الآن عملاءها بعدم استخدام المنتج البرمجي الخاص بـ Nvidia.

ووفقاً للتقارير، عالجت Nvidia إحدى المشكلات الجذرية التي حددها الباحثون بعد الكشف عن هذه النتائج.

وعلى الرغم من هذه التعثرات، شهد سهم الشركة ارتفاعاً ملحوظاً بفضل توقعات المبيعات القوية والطلب المتزايد على رقائقها، التي تُعد حاسمة لبناء أنظمة ذكاء اصطناعي توليدي قادرة على إنتاج محتوى شبيه بالبشر.

وصف جوناثان كوهين، نائب رئيس الأبحاث التطبيقية في Nvidia، إطار عمل NeMo بأنه منصة انطلاق لتطوير روبوتات الدردشة الذكية التي تلتزم بمبادئ السلامة والأمان والإرشادات الخاصة بالموضوع.

كما أقر بأهمية نتائج أبحاث Robust Intelligence للتطوير المستقبلي لتطبيقات الذكاء الاصطناعي.

تسلط هذه الحادثة الضوء على تحدي أوسع يواجه شركات الذكاء الاصطناعي، بما في ذلك العملاقان Google وOpenAI المدعومة من Microsoft، اللذين واجها حصتهما من حوادث السلامة على الرغم من اتخاذهما حواجز أمنية لتجنب سلوك منتجات الذكاء الاصطناعي بطرق غير لائقة.

كما أشارت بيا لونغورث، رئيسة الشؤون الحكومية في أوروبا والشرق الأوسط وأفريقيا في Nvidia، خلال مؤتمر صناعي، إلى أن بناء الثقة العامة يمثل أولوية كبرى لشركات الذكاء الاصطناعي.

إن إمكانات الذكاء الاصطناعي هائلة، لكن العبء يقع على عاتق مزودي التكنولوجيا مثل Nvidia لضمان ألا تُنظر إلى هذه الأنظمة المتقدمة على أنها تهديدات، بل كأدوات مفيدة للمستقبل.