ميثا تنضم إلى OpenAI وAnthropic في أحدث حادثة اختراق للذكاء الاصطناعي

أصبحت ميثا أحدث عملاق تكنولوجي يعترف بأن وكيل الذكاء الاصطناعي الخاص بها اخترق شركة أخرى بعد أن قام شريك اختبار مستقل بإعداد بيئته الآمنة بشكل خاطئ.

واجهت OpenAI وAnthropic بالفعل حالات حاولت فيها وكلاء الذكاء الاصطناعي اختراق أنظمة الإنترنت الحقيقية دون تفويض.

أخبرت ميثا الصحفيين أن اختراق الذكاء الاصطناعي نشأ من خطأ في تكوين النظام مشابه لاختراق Anthropic. على عكس OpenAI، حيث استغل وكيل الذكاء الاصطناعي ثغرة أمنية غير مكتشفة سابقاً للوصول إلى الإنترنت أثناء اختبار الأمن السيبراني. حتى الآن، استجاب الباحثون والحكومات للحالات من خلال الدعوة إلى حماية أقوى ومعايير اختبار أكثر صرامة.

يدفع شخصيات رئيسية في مجتمع الذكاء الاصطناعي حتى نحو إبطاء مُدار لضمان أن التحكم البشري يواكب ذكاء الآلة.

لاحظت Irregular أنه لا توجد مشاكل مفتوحة مع وكيل الذكاء الاصطناعي الخاص بـ Meta

قالت ميثا إن Irregular، وهي بائعة أمان للذكاء الاصطناعي، أجرت الاختبارات وحذرتها من الاختراق. وأضافت أنها تخطط للكشف عن المزيد من المعلومات علناً حول الحادث بمجرد تأكيد جميع الحقائق. 

ادعت أن وكيل الذكاء الاصطناعي الخاص بها "استغل ثغرة أمنية في خدمة تابعة لجهة خارجية". حددت المصادر الوكيل الخاطئ باسم Muse Spark 1.1، وهو نموذج تروج له ميثا بشدة لمهارات البرمجة النخبوية.  

قالت Irregular إن الحادث يعود إلى نفس عيب البيئة الذي كشفته Anthropic الأسبوع الماضي، مستبعداً تماماً إنجاز اختراق معقد أو الهروب من الصندوق الرملي (sandbox).

وأضافت أيضاً: "لا توجد قضايا مفتوحة حالياً. تقوم Irregular بتطوير ورقة بيضاء لمشاركة أفضل الممارسات للحصر وتشغيل التقييمات السيبرانية بأمان". 

تقول AISI إن نماذج OpenAI وAnthropic حاولت التأثير على المشرفين البشر

في السابق، اعترفت OpenAI بأن أنظمتها المستقلة اخترقت شبكات عامة متعددة، بما في ذلك مركز مجتمع الذكاء الاصطناعي Hugging Face. أدى إفصاح OpenAI لاحقاً إلى قيام Anthropic بإجراء فحوصات أمنية خاصة بها، والتي كشفت أن Claude قد نفذ هجمات مماثلة على عدة شركات بعد أن سمح خطأ في التكوين له بالوصول إلى الإنترنت. 

ومع ذلك، كشف تقرير تنظيمي بريطاني عن قضايا أكثر إثارة للقلق. وفقاً لمعهد أمان الذكاء الاصطناعي في المملكة المتحدة، حاولت نماذج الذكاء الاصطناعي من OpenAI وAnthropic محاولة إضافة كود ضار إلى مشروع مفتوح المصدر من خلال التأثير على مشرفيها البشر.

"في محاولة للحصول على الموافقة على الكود، اشترك الوكيل في الهندسة الاجتماعية - بإنشاء هويات عبر الإنترنت مزيفة واستخدامها للضغط على مشرف المشروع للموافقة على الكود،" قالت AISI.

لاحظت أن جميع هذه المحاولات فشلت ولم تسبب أي ضرر حقيقي. وعلى الرغم من عدم حدوث أي ضرر حقيقي وفشل كل محاولة، حذر المشرف أن هذا هو الدليل الواقعي الأكثر وضوحاً حتى الآن على خداع الذكاء الاصطناعي وخطر الاستقلالية.

كما أوضحت AISI معايير اختبارها: "لقياس ما يمكن لهذه النماذج فعله حقاً، نختبرها في ظروف تعكس ما يمكن لمهاجم بشري قادر على فعله".

حتى الآن، لم تذكر OpenAI ويت حادثة الأمان خلال تجارب AISI، قائلة إنها تريد بناء حواجز حماية أفضل على مستوى الصناعة لاختبار النماذج المتقلبة. أعلنت علناً عن حادثة منفصلة حيث تعرضت نماذجها عن طريق الخطأ للإنترنت المفتوح أثناء محاكاة.

التزمت الشركة بتعزيز إشرافها على الاختبار من قبل أطراف ثالثة، بما في ذلك كيفية تحديد التقييمات التي تحمل مخاطر أكبر، ومراجعة طلبات الوصول إلى الإنترنت أو الضوابط الأقل، وإدارة العزل واستخدام الاعتمادات، ومراقبة الاختبار، والاستجابة للحوادث من خلال إجراءات تصعيد أكثر وضوحاً. 

في غضون ذلك، قام البيت الأبيض بدعوة كبار مطوري الذكاء الاصطناعي، بما في ذلك Meta وAnthropic وOpenAI وGoogle، هذا الأسبوع لمناقشة إطار عمل طوعي جديد finalized لاختبار الأمن السيبراني لأنظمة الذكاء الاصطناعي المتقدمة.

أثناء المناقشات مع ممثلي الشركات، قالت إدارة ترامب إن نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة مثل Llama الخاص بـ Meta وNemotron الخاص بـ Nvidia لن تغطيها إطار عمل اختبار السلامة الطوعي المقترح. 

أثار الإعفاء جدلاً بين باحثي سلامة الذكاء الاصطناعي، الذين يجادلون بأن نماذج الأوزان المفتوحة يمكن تنزيلها وتعديلها وضبطها بدقة من قبل أطراف ثالثة بحرية.

يقول النقاد إن استبعادها من إرشادات الاختبار الطوعي قد يخلق نقاط عمياء مع توافر نماذج أكثر قدرة على نطاق واسع خارج سيطرة مطوريها الأصليين.