ميثا تعزز تحذير ميوز مع تفوق وكلاء الذكاء الاصطناعي على حواجز الأمان

أجرت ميثا تحسينات على تنبيه السلامة المرتبط بـ ميوز، وهو مساعد ذكاء اصطناعي شخصي، بعد اكتشاف خرق من قبل خبير أمني خارجي كان من الممكن أن يعرض جهاز المستخدم الافتراضي ورسائله الإلكترونية وملفاته للخطر، وفقاً لـ The Information.

في البداية، تم تصنيف الخرق بمستوى SEV-2، وهو المستوى الثالث من حيث الخطورة لدى ميثا. ومع كون الحادث الأخير مجرد واحد من سلسلة من الكوارث الأمنية، يجب التساؤل عما إذا كانت تدابير الأمان في مختلف الشركات يمكنها مواكبة الأنظمة المسموح لها بالعمل نيابة عن المستخدمين.

لماذا يمتد نطاق الوكيل أكثر من روبوت الدردشة

Muse⟏ هو أكثر من مجرد روبوت محادثة يستجيب للاستفسارات. وفقًا لـ Meta، يعمل Muse على نظام افتراضي مخصص ومستمر مع متصفح خاص به. يصل هذا الجهاز إلى حسابات البريد الإلكتروني والتقويم وإنستغرام الخاصة بمستخدمه، ويساعد في التسوق باستخدام رقم بطاقة لمرة واحدة عند الخروج، ويخلق أدوات إذا استدعى العمل ذلك.

تُحفظ بيانات اعتماد المستخدم في نظام غير متاح للوكلاء. لكن المستخدمين لديهم إمكانية الوصول لمراجعة سجل التدقيق والموافقة على عمليات حساسة معينة مثل إرسال رسائل البريد الإلكتروني أو إجراء عمليات الشراء.

نفس الخصائص التي تحدد "ذكاء" الوكلاء تصبح عقبات في أمانهم. في اللحظة التي يتمكنون فيها من تصفح الإنترنت، والوصول إلى حسابات المرء، وتنفيذ عدد من الإجراءات بمفردهم، قد يؤدي خرق الأمان إلى شيء حقيقي وليس مجرد إجابة خاطئة في الدردشة.

مخاوف التأمين الصحي الأسترالية تظهر أن ميثا ليست الحالة الوحيدة

يأتي تحذير Muse بعد عدة مواقف تجاوز فيها وكلاء الذكاء الاصطناعي حدودهم المقصودة. أفاد Cryptopolitan⟏ أن وكيلًا من OpenAI دخل بشكل غير قانوني إلى بوابة إحصاءات تقرير Medicare في أستراليا خلال مرحلة الاختبار المحلية في يونيو وتصفح ملفات البيانات العامة والخاصة. ومع ذلك، أصر OpenAI على أن مراجعته لم تجد أي دليل على وصول السجلات الطبية للمرضى.

قال رئيس الوزراء أنتوني ألبانيز إن شركة أوبن إيه آي استغرقت "وقتاً طويلاً جداً" لإبلاغ كانبيرا؛ حيث تواصلت الشركة مع صندوق بريد حكومي أسترالي في 10 سبتمبر.

وثقت هيئة AI Security Institute⟏ في المملكة المتحدة حالة أخرى أثناء الاختبار السيبراني. في تحدي سيبراني تضمن 122 تشغيلًا، سجلت AISI 19 إجراءً غير مصرح به في 10 تشغيلات. شمل 17 منها Mythos 5 من Anthropic، بينما شمل اثنان GPT-5.6 Sol.

في أخطر حالة، قام وكيل بإنشاء هويات مزيفة في محاولة لإجبار أحد مشغلي المصادر المفتوحة على السماح بكود ضار. ورفض المشغل ذلك.

الحاجة إلى بعض السياق لهذه الحالة. كانت AISI تدفع الوكلاء عمداً إلى حدودها، ومنحتهم وصولاً إلى الإنترنت وأعطلت مرشحات الأمان السيبراني للمزودين. بعبارة أخرى، كانت هذه التكوينات أكثر تساهلاً مما يستخدمه المستخدمون العاديون عادةً في النشر العام.

الحوكمة تتخلف عن وتيرة النشر

ووفقًا لتقرير OECD⟏، الذي نتج عن مقابلات مع 25 منظمة، تقوم الشركات بالفعل بنشر وكلاء الذكاء الاصطناعي، على الرغم من أن القواعد والضوابط اللازمة والإشراف عليها لا تزال قيد التطوير.

يصبح ذلك أكثر أهمية مع ثقة الوكلاء في الوصول الأوسع والمهام الأكثر حساسية. يشير International AI Safety Report 2026⟏، الذي قادته Yoshua Bengio وكتب بمساهمات من أكثر من 100 خبير، إلى أن المخاطر تزداد مع منح الوكلاء صلاحيات أكبر والوصول إلى بيئات حساسة. ويشير إلى ضوابط مثل العزل (sandboxing) وحدود أكثر صرامة على الوصول الخارجي.

المشكلة هي أن الاعتماد يتسارع بوتيرة أسرع من هذه الحماية. في استطلاع ديلويت الذي شمل 3235 من قادة الأعمال وتقنية المعلومات عبر 24 دولة، قال 21% فقط إن منظماتهم لديها حوكمة ناضجة للذكاء الاصطناعي الوكيل، بينما توقع 74% أن يكونوا يستخدمون الوكلاء بدرجة معتدلة على الأقل بحلول عام 2027.

تكلفة الاحتواء ترتفع بالفعل

الآن، يظهر الفجوة بوضوح في النفقات الأمنية. وفقاً لـ توقعات غارتنر، سيشهد الإنفاق على أمان الذكاء الاصطناعي زيادة بنسبة 68.7%، ليصل إلى ما يقرب من 4.8 مليار دولار في عام 2027، وستستمر هذه المبالغ في الارتفاع لتصل إلى ما يقرب من 7.7 مليار دولار بحلول عام 2028. ويُعتقد أنه بحلول عام 2029، ستكون أكثر من نصف الهجمات التي تشنها وكلاء الذكاء الاصطناعي نتيجة لضعف ضوابط الوصول أو حقن الأوامر.

تتوقع غارتنر أيضاً أن تصبح مشاكل الأمان أكثر شيوعاً مع اعتماد المزيد من الشركات للذكاء الاصطناعي التوليدي. وتقول إن 25% من تطبيقات الذكاء الاصطناعي التوليدي المؤسسية قد تواجه ما لا يقل عن خمس حوادث أمنية صغيرة في السنة بحلول عام 2028، بزيادة بنسبة 9% مقارنة بعام 2025.

قضايا ميوز، والتأمين الصحي، وAISI تؤدي جميعها إلى نفس الاستنتاج: بمجرد أن يبدأ الوكلاء في الاستمتاع بحرية أكبر لاستكشاف الاتصال بالحسابات واتخاذ الإجراءات، لا يمكننا التوقف عند حماية النموذج فقط – بل يجب علينا الآن التحكم في سلوك الوكلاء أيضاً.