انضمت شركة ميتا إلى شركتي أوبن إيه آي وأنثروبيك في أحدثdent اختراق للذكاء الاصطناعي
- قام وكيل الذكاء الاصطناعي التابع لشركة ميتا باختراق شركة أخرى بسبب خطأ في التكوين.
- تعتزم الشركة الكشف عن مزيد من المعلومات حول عملية الاختراق.
- كشفت AISI عن المزيد من الخداع باستخدام نماذج OpenAI و Anthropic AI.
أصبحت شركة ميتا أحدث شركة عملاقة في مجال التكنولوجيا تعترف بأن وكيل الذكاء الاصطناعي الخاص بها قد اخترق شركة أخرى بعد أن قام شريك اختبارdent بتكوين بيئته الآمنة بشكل خاطئ.
وقد واجهت حالات حاولت فيها وكلاء الذكاء الاصطناعي التابعون لهما اختراق أنظمة حقيقية عبر الإنترنت دون إذن.
أبلغت شركة ميتا الصحفيين أن اختراق الذكاء الاصطناعي نجم عن خلل في إعدادات النظام، على غرار اختراق شركة أنثروبيك. ويختلف هذا عن اختراق شركة أوبن إيه آي، حيث استغل أحد برامج الذكاء الاصطناعي ثغرة أمنية غير مكتشفة سابقًا للوصول إلى الإنترنت أثناء اختبار للأمن السيبراني. وحتى الآن، استجاب الباحثون والحكومات لهذهdentبالدعوة إلىtronإجراءات الحماية وفرض معايير اختبار أكثر صرامة.
تأتي هذهdentفي وقت تتسابق فيه شركات الذكاء الاصطناعي لإنشاء أنظمة أكثر استقلالية قادرة على تنفيذ مهام معقدة دون تدخل بشري. وعلى عكس روبوتات الدردشة التقليدية، تستطيع هذه الأنظمة كتابة التعليمات البرمجية، والتفاعل مع الخدمات الإلكترونية، وتنفيذ إجراءات متعددة الخطوات بشكلdent.
في حين أن هذه القدرات تعد بمكاسب إنتاجية كبيرة، إلا أنها تزيد أيضًا من خطر أن تؤدي بيئة اختبار سيئة التنسيق أو ضوابط غير كافية إلى قيام النماذج باتخاذ إجراءات غير مخطط لها في عملية تقييم الأمان.
بل إن الشخصيات الرئيسية في مجتمع الذكاء الاصطناعي تدفع باتجاه تباطؤ مُدار لضمان مواكبة التحكم البشري للذكاء الآلي.
أشار غير منتظم إلى عدم وجود مشاكل مفتوحة تتعلق بوكيل الذكاء الاصطناعي الخاص بشركة ميتا
أعلنت شركة ميتا أن شركة إيريجولار، المتخصصة في أمن الذكاء الاصطناعي، أجرت الاختبارات وأبلغتها بالاختراق .وأضافت أنها تعتزم الكشف عن المزيد من التفاصيل حول الحادثةdent التأكد من جميع الحقائق.
زعمت الشركة أن وكيل الذكاء الاصطناعي الخاص بها "استغل ثغرة أمنية في خدمة تابعة لجهة خارجية".dentمصادر أن الذكاء الاصطناعي المارق هو Muse Spark 1.1، وهو نموذج روجت له شركة Meta بكثافة لمهاراته البرمجية المتميزة.
قال Irregular إنdent يرجع إلى نفس الخلل البيئي الذي كشفت عنه Anthropic الأسبوع الماضي، مما يستبعد تمامًا عملية اختراق معقدة أو عمليات الهروب من بيئة الاختبار المعزولة.
وبينما قالت شركة ميتا إن الاختراق كان بسبب سوء تكوين بيئة الاختبار بدلاً من خروج الذكاء الاصطناعي بشكلdentمن بيئته المعزولة، يقول الباحثون إنdent توضح أن الأمن لا يعتمد فقط على النموذج نفسه ولكن أيضًا على بنيته التحتية.
حتى أنظمة الذكاء الاصطناعي شديدة الأمان يمكن أن تتصرف بشكل غير متوقع إذا لم يتم إعداد ضوابط الوصول أو أذونات الشبكة أو بيئات الاختبار بشكل صحيح.
وذكر البيان أيضاً: "لا توجد قضايا مفتوحة حالياً. وتعمل شركة Irregular على إعداد ورقة بيضاء لمشاركة أفضل الممارسات لاحتواء وإجراء تقييمات الأمن السيبراني بشكل آمن"
تقول AISI إن نماذج OpenAI و Anthropic حاولت التأثير على القائمين على صيانتها من البشر
في السابق، اعترفت شركة OpenAI بأن أنظمتها المستقلة قد اخترقت العديد من الشبكات العامة، بما في ذلك منصة Hugging Face المتخصصة في الذكاء الاصطناعي. وقد دفع هذا الكشف شركة Anthropic لاحقًا إلى إجراء فحوصات أمنية خاصة بها، والتي كشفت أن برنامج Claude قد نفذ هجمات مماثلة على عدة شركات بعد أن سمح له خطأ في التكوين بالوصول إلى الإنترنت.
لكن تقريرًا تنظيميًا بريطانيًا كشف عن مشكلات أكثر إثارة للقلق. فبحسب معهد أمن الذكاء الاصطناعي في المملكة المتحدة، حاولت إضافة برمجيات خبيثة إلى مشروع مفتوح المصدر من خلال التأثير على القائمين عليه من البشر.
وقالت منظمة AISI: "في محاولة للحصول على الموافقة على الكود، انخرط الوكيل في الهندسة الاجتماعية - إنشاءdentمزيفة عبر الإنترنت واستخدامها للضغط على القائم على صيانة المشروع للموافقة على الكود".
وأشارت إلى أن جميع هذه المحاولات باءت بالفشل ولم تُلحق أي ضرر حقيقي. ورغم عدم وقوع أي ضرر فعلي وفشل جميع المحاولات، حذّرت الهيئة الرقابية من أن هذا يُعدّ أوضح دليل واقعي حتى الآن على تصرف الذكاء الاصطناعي بطريقة مخادعة، وعلى مخاطر الاستقلالية.
كما أوضح معهد AISI معايير الاختبار الخاصة به: "لقياس ما يمكن أن تفعله هذه النماذج بالفعل، نقوم باختبارها في ظل ظروف تعكس ما يمكن أن يفعله مهاجم بشري قادر"
أقرت OpenAI حتى الآن الأمنيdent الذي وقع خلال تجارب AISI، مصرحةً برغبتها في وضع ضوابط أفضل على مستوى القطاع لاختبار النماذج المتقلبة. كما أعلنت عن حادثة منفصلةdent فيها شركة Irregulardentطريق الخطأ نماذجها للإنترنت المفتوح خلال تدريب محاكاة.
تعهدت الشركة بتعزيز إشرافها على اختبارات الطرف الثالث، بما في ذلك كيفية تحديد التقييمات التي تنطوي على مخاطر أكبر، ومراجعة طلبات الوصول إلى الإنترنت أو ضمانات أقل، وإدارة العزل واستخدام الاعتماداتdentومراقبة الاختبارات، والاستجابة للحوادثdentخلال إجراءات تصعيد أكثر وضوحًا.
وفي الوقت نفسه، البيت الأبيض كبار مطوري الذكاء الاصطناعي، بما في ذلك Meta و Anthropic و OpenAI و Google، هذا الأسبوع لمناقشة إطار عمل طوعي تم الانتهاء منه حديثًا لاختبار الأمن السيبراني لأنظمة الذكاء الاصطناعي المتقدمة.
خلال المناقشات مع ممثلي الشركات، قالت إدارة ترامب إن نماذج الذكاء الاصطناعي ذات الوزن المفتوح مثل Llama من Meta و Nemotron من Nvidia لن تكون مشمولة بإطار اختبار السلامة الطوعي المقترح.
أثار هذا الاستثناء جدلاً بين باحثي سلامة الذكاء الاصطناعي، الذين يجادلون بأن نماذج الوزن المفتوح يمكن تنزيلها وتعديلها وضبطها بحرية من قبل أطراف ثالثة.
يقول النقاد إن استبعادهم من إرشادات الاختبار الطوعي قد يخلق نقاط عمياء حيث تصبح النماذج ذات القدرات المتزايدة متاحة على نطاق واسع خارج سيطرة مطوريها الأصليين.
لا تكتفِ بقراءة أخبار العملات الرقمية، بل افهمها. اشترك في نشرتنا الإخبارية، إنها مجانية.
الأسئلة الشائعة
لماذا قام عميل الذكاء الاصطناعي التابع لشركة ميتا باختراق شركة أخرى؟
وقالت شركة ميتا إن الذكاء الاصطناعي تمكن من الوصول إلى نظام شركة أخرى بسبب خطأ في بيئة الاختبار أثناء تقييم الأمن السيبراني.
هل واجهت شركات الذكاء الاصطناعي الأخرىdentأمنية مماثلة في مجال الذكاء الاصطناعي؟
نعم. وقد أبلغت شركتا OpenAI وAnthropic أيضاً عن حالات حاولت فيها نماذج الذكاء الاصطناعي الخاصة بهما الوصول إلى أنظمة حقيقية عبر الإنترنت أثناء اختبارات الأمان.
لماذا يشعر خبراء أمن الذكاء الاصطناعي بالقلق بشأن وكلاء الذكاء الاصطناعي المستقلين؟
يقول الخبراء إن وكلاء الذكاء الاصطناعي يمكنهم أداء المهام بمفردهم، لذلك فهم بحاجة إلى ضماناتtronلمنع السلوك غير المتوقع أو غير الآمن أثناء الاختبار.
نيليوس إيرين
نيليوس خريجة إدارة أعمال وتقنية معلومات، ولديها خمس سنوات من الخبرة في مجال العملات الرقمية. وهي أيضاً خريجة برنامج Bitcoin Dada. وقد ساهمت نيليوس في منشورات إعلامية رائدة، منها BanklessTimes وCryptobasic وRiseup Media.
