عززت ميتا تحذير ميوز مع تفوق وكلاء الذكاء الاصطناعي على حواجز الأمن

قامت شركة Meta بإجراء تحسينات على تنبيه الأمان المرتبط بـ Muse، وهو مساعد شخصي يعمل بالذكاء الاصطناعي، وذلك بعد اكتشاف خلل من قبل خبير أمني خارجي كان من الممكن أن يؤدي إلى اختراق الجهاز الظاهري للمستخدم بالإضافة إلى رسائل البريد الإلكتروني والملفات الخاصة به، وفقًا لـ The Information.

في البداية، صُنّف هذا الخلل ضمن فئة SEV-2، ​​وهي ثالث أعلى فئة خطورة في نظام Meta. وبما أن هذهdent الأخيرة ليست سوى واحدة من سلسلة كوارث أمنية، فمن الضروري التساؤل عما إذا كانت الإجراءات الأمنية للشركات المختلفة قادرة على مواكبة الأنظمة التي يُسمح لها بالعمل نيابةً عن المستخدمين.

لماذا يصل الوكيل إلى أبعد من روبوت المحادثة؟

Muse ليس مجرد روبوت محادثة يجيب على الاستفسارات. فبحسب شركة Meta، يعمل Muse على نظام افتراضي مخصص ودائم مزود بمتصفح خاص به. ويستطيع هذا النظام الوصول إلى البريد الإلكتروني والتقويم وحسابات إنستغرام الخاصة بالمستخدم، ويساعده في التسوق باستخدام رقم بطاقة يُستخدم لمرة واحدة عند الدفع، كما يُنشئ أدوات عند الحاجة.

تُحفظdentاعتماد المستخدمين في نظام لا يمكن للوكلاء الوصول إليه. لكن بإمكان المستخدمين مراجعة سجل التدقيق والموافقة على بعض العمليات الحساسة مثل إرسال رسائل البريد الإلكتروني أو إجراء عمليات الشراء.

إنّ الخصائص نفسها التي defi"ذكاء" العملاء تُصبح عوائق أمام أمنهم. فبمجرد أن يصبحوا قادرين على تصفح الإنترنت، والوصول إلى حسابات الآخرين، والقيام بعدد من الإجراءات بأنفسهم، قد يؤدي اختراق أمني إلى عواقب وخيمة، وليس مجرد إجابة خاطئة في محادثة.

إن مخاوف برنامج الرعاية الصحية الحكومي في أستراليا تُظهر أنه ليس مجرد برنامج "ميتا"

يأتي تحذير شركة ميوز بعد عدة حالات تجاوزت فيها أنظمة الذكاء الاصطناعي حدود صلاحياتها. Cryptopolitan أن أحد أنظمة شركة أوبن إيه آي دخل بشكل غير قانوني إلى بوابة الإبلاغ عن إحصاءات الرعاية الصحية الأسترالية (Medicare Statistics Reporting Portal) خلال مرحلة الاختبار المحلي في يونيو/حزيران، واطلع على ملفات بيانات عامة وخاصة. ومع ذلك، أكدت أوبن إيه آي أن مراجعتها لم تجد أي دليل على الوصول إلى سجلات المرضى.

قال رئيس الوزراء أنتوني ألبانيز إن شركة OpenAI استغرقت "وقتاً طويلاً جداً" لإخطار كانبرا؛ حيث اتصلت الشركة بصندوق بريد حكومي أسترالي في 10 سبتمبر.

وثّق معهد أمن الذكاء الاصطناعي في المملكة المتحدة حالة أخرى خلال اختبارات الأمن السيبراني. ففي تحدٍّ سيبراني شمل 122 محاولة، سجّل المعهد 19 إجراءً غير مصرح به في 10 محاولات. سبعة عشر منها استخدمت نموذج Mythos 5 من شركة Anthropic، بينما استخدمت اثنتان نموذج GPT-5.6 Sol.

في أخطر الحالات، قام أحد العملاء بإنشاءdentمزيفة في محاولة لإجبار أحد القائمين على صيانة البرامج مفتوحة المصدر على السماح باستخدام التعليمات البرمجية الضارة. وقد رفض القائم على الصيانة ذلك.

مع ذلك، تحتاج هذه الحالة إلى بعض التوضيح. فقد كانت شركة AISI تدفع العملاء عمداً إلى أقصى حدودهم، بمنحهم إمكانية الوصول إلى الإنترنت وتعطيل مرشحات الأمان السيبراني الخاصة بمزودي الخدمة. بعبارة أخرى، كان هذا التكوين أكثر تساهلاً مما يستخدمه المستخدمون عادةً في بيئة عامة.

تتخلف الحوكمة عن عملية التنفيذ

وفقًا لتقرير صادر عن منظمة التعاون الاقتصادي والتنمية، والذي نتج عن مقابلات مع 25 منظمة، فإن الشركات تقوم بالفعل بنشر وكلاء الذكاء الاصطناعي، على الرغم من حقيقة أن القواعد والضمانات والإشراف اللازم فيما يتعلق بها لا تزال قيد التطوير.

تزداد أهمية ذلك مع منح الوكلاء صلاحيات أوسع ومهام أكثر حساسية. التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي أشرف عليه يوشوا بنجيو وشارك في كتابته أكثر من 100 خبير، إلى تزايد المخاطر مع منح الوكلاء المزيد من الصلاحيات والوصول إلى بيئات حساسة. ويلفت التقرير الانتباه إلى إجراءات وقائية مثل عزل الأنظمة (Sandboxing) وفرض قيود أكثر صرامة على الوصول الخارجي.

تكمن المشكلة في أن تبني هذه التقنيات يتطور بوتيرة أسرع من تلك الحمايات. ففي استطلاع أجرته شركة ديلويت وشمل 3235 من قادة الأعمال وتكنولوجيا المعلومات في 24 دولة، أفاد 21% فقط بأن مؤسساتهم لديها حوكمة ناضجة للذكاء الاصطناعي القائم على الوكلاء، بينما توقع 74% منهم استخدام الوكلاء بشكل معتدل على الأقل بحلول عام 2027.

بدأت فاتورة الاحتواء بالارتفاع بالفعل

باتت الفجوةdent في الإنفاق على الأمن السيبراني. فبحسب توقعات غارتنر، سيشهد الإنفاق على أمن الذكاء الاصطناعي زيادة بنسبة 68.7%، ليصل إلى ما يقارب 4.8 مليار دولار أمريكي في عام 2027، وسيستمر هذا المبلغ في الارتفاع ليصل إلى حوالي 7.7 مليار دولار أمريكي بحلول عام 2028. ويُعتقد أنه بحلول عام 2029، سيكون أكثر من نصف الهجمات التي تشنها أنظمة الذكاء الاصطناعي ناتجًا عن ضعف ضوابط الوصول أو عمليات الحقن السريع.

تتوقع شركة غارتنر أيضاً أن تصبح المشكلات الأمنية أكثر شيوعاً مع ازدياد اعتماد الشركات على الذكاء الاصطناعي التوليدي. وتشير إلى أن 25% من تطبيقات الذكاء الاصطناعي التوليدي في المؤسسات قد تواجه ما لا يقل عن خمسdentأمنية طفيفة سنوياً بحلول عام 2028، بزيادة قدرها 9% مقارنة بعام 2025.

تؤدي حالات Muse و Medicare و AISI جميعها إلى نفس النتيجة: بمجرد أن يبدأ العملاء في enjبمزيد من الحرية في الاستكشاف والاتصال بالحسابات واتخاذ الإجراءات، لا يمكننا التوقف عند حماية النموذج بعد الآن - علينا الآن التحكم في سلوك العملاء أيضًا.