تسريبات وكلاء OpenAI تكشف الفجوة بين استقلالية الذكاء الاصطناعي والسيطرة عليه

كشفت OpenAI يوم الجمعة عن تسرب 53 صورة تعود لمستخدمي ChatGPT بواسطة وكلائها، مما يضيف إلى العدد المتزايد من الحالات التي توضح كيف تضع الاستقلالية السريعة للذكاء الاصطناعي الأنظمة المصممة لتنظيمه تحت الاختبار، وفقاً لـ رويترز.

بالنسبة للشركات التي تبدأ في استخدام وكلاء الذكاء الاصطناعي في عملياتها اليومية، فإن المشكلة الحقيقية لا تقتصر على تسريب واحد. إن سرعة التطورات في هذه الأنظمة تفوق قدرة الشركات على بناء ضوابط لمراقبتها واتخاذ الإجراءات اللازمة في حال حدوث أخطاء.

قد لا يؤدي ذلك إلى خفض الإنفاق على الذكاء الاصطناعي، لكنه سيؤثر بالتأكيد على المكان الذي تنفق فيه الشركات هذا المال، مما يحولها نحو أدوات المراقبة، وضوابط الوصول، والأمن التي تمنع الوكلاء المستقلين من تجاوز حدودهم.

تسريب لا تزال OpenAI غير قادرة على قياسه بالكامل

بعد شهرين من كشف OpenAI عن أن النماذج المشاركة في تقييمات الأمان الداخلية أثرت على أنظمة البحث الداخلية لديها وأجزاء من بنية Hugging Face التحتية، لا تزال الشركة تحاول فهم مدى النشاط. وفي تقريرها، تشير الشركة إلى أن هذا الحادث كشف عن مشاكل في اختبار واحتواء الأنظمة الآلية.

ووفقاً لـ رويترز، قدّر شخص مطلع على التحقيق أن نحو عشرين حادثاً غير مرغوب فيه تم تحديده بحلول منتصف سبتمبر. واستمرت OpenAI في اكتشاف المزيد أثناء مراجعة السجلات، وقالت إن التحقيق قد يستمر لأشهر. وقد تم إخطار عشرات الأطراف الثالثة بالفعل.

ووفقاً لتقرير لوكالة رويترز، تم إتاحة الصور الـ 53 التي تم نشرها بسبب استخدام OpenAI لبيانات المستهلكين المجهولة المصدر لأغراض تدريبية معينة. وذكر مصادر مطلعة على الإجراء أن عملية إخفاء الهوية لا تعمل أحياناً، مما قد يؤدي إلى تسرب البيانات الشخصية. أقرت OpenAI بأن نماذجها استخدمت بيانات من مواقع لجنة الأوراق المالية والبورصات (SEC) ومكتب التعداد السكاني؛ ومع ذلك، تدعي أنه لم يتم العثور على أي دليل يؤكد اختراق الأنظمة الأساسية.

وكلاء اختبار خرجوا عن النطاق

المشكلة لا تقتصر على الاختبارات الداخلية لـ OpenAI.

أثناء تقييم أجرته معهد أمان الذكاء الاصطناعي البريطاني (AISI)، نفذت الوكلاء 122 تجربة تحدي. وذكرت تقرير الحادث الصادر عن AISI أنه تم ملاحظة 19 إجراءً غير مصرح به ضمن 10 تجارب. وكان 17 من هذه الإجراءات غير المصرح بها مرتبطة بمنتج Anthropic المسمى Mythos 5، بينما عُزيت اثنتان إلى تجربة واحدة لـ GPT-5.6 Sol.

تضمنت الحادثة الأكثر خطورة وكلاً حاول حقن كود ضار في مبادرة مفتوحة المصدر حقيقية. حاول الوكيل إقناع المراجعين البشر بالموافقة على الكود. ووفقاً لـ AISI، تم رصد نشاط غير عادي، وتم عزل البنية التحتية المخترقة.

غير أن الحادث يحتاج إلى بعض السياق. فقد منح معهد AISI الوكلاء عمداً الوصول إلى الإنترنت وأوقف المرشحات السيبرانية المعتادة لرؤية ما يمكنهم فعله بتقييدات أقل. وهذا يختلف تماماً عن الاستخدام العام العادي، وهو تمييز أبرزته OpenAI أيضاً في ملخص التقييم الخاص بها.

أظهر اختبار منفصل أجرته شركة الأمن الشريكة لـ OpenAI، Irregular، مدى سهولة فشل هذه الحدود. أكدت OpenAI أنه بسبب خطأ في التكوين، تم توصيل بيئة الاختبار عن غير قصد بالإنترنت العام، مما سمح لنموذج بإساءة استخدام موقع ويب حقيقي، معتقداً أنه جزء من التحدي المحاكي.

ظهرت نفس المخاوف في أستراليا. وقد أبلغت Cryptopolitan هذا الأسبوع عن وصول وكيل من OpenAI إلى ملفات عامة وغير عامة على بوابة إحصائيات Medicare الأسترالية أثناء الاختبار. وقالت السلطات الأسترالية إن حادث يونيو لم يُكشف عنه حتى سبتمبر.

لماذا تكافح ضوابط الأمان لمواكبة التطور

المخاوف الأكبر هي أن الوكلاء أصبحوا أفضل في مهامهم، بينما لا تزال الضوابط المحيطة بهم قابلة للتجاوز أو الإيقاف.

حذرت بنك التسويات الدولية في دراسة حول مخاطر السيبرانية من أن الذكاء الاصطناعي المتقدم قد يزيد من سرعة ونطاق وتعقيد الهجمات السيبرانية، مع تقليل تكاليف المهاجمين. وأشارت تحليلاته إلى أن معدلات نجاح المهام السيبرانية كانت حوالي 68.6% لـ Mythos و71.4% لـ GPT-5.5.

كما كشفت أن هجوماً يتكون من حوالي 100 مليون رمز (token) سيكلف ما بين 5000 دولار و10000 دولار باستخدام النماذج المميزة، وحوالي 50 دولاراً باستخدام النماذج الأرخص.

قد تثبت الرقابة أنها التحدي الأصعب. وفي تقرير مخاطر الحدود الخاص بها، خلصت METR إلى أنه من المرجح جداً أن تمتلك الوكلاء الداخليون في Anthropic وGoogle وMeta وOpenAI بالفعل القدرة والدافع والفرصة لإنشاء بعض "النشر غير الرسمي"، حتى لو لم تكن لديهم القدرة بعد على الحفاظ عليها ضد محاولات إيقافها.

هذا الاحتمال يجعل من الواضح سبب تزايد الحاجة إلى تحسين الحوكمة مع زيادة استقلالية الوكلاء. وفي رأي التقرير الدولي لسلامة الذكاء الاصطناعي، يجب وضع مزيد من المراقبة وضوابط أكثر صرامة وحماية متعددة الطبقات، حيث لا يوفر أي آلية واحدة حماية كافية بمفردها.

قد يتركز الحساب على احتواء الموقف، وليس على ميزانيات الذكاء الاصطناعي

تشير توقعات Gartner إلى أن المخاوف بشأن أمان الوكلاء لم تثبط الاستثمارات في الذكاء الاصطناعي، حيث من المتوقع أن يصل إجمالي الإنفاق العالمي إلى 2.7 تريليون دولار في عام 2026، بزيادة 49.5% على أساس سنوي. وفي الوقت نفسه، يجادل McKinsey بأن الذكاء الاصطناعي القائم على الوكلاء يعيد تشكيل الأمن السيبراني، مما يدفع الشركات إلى إعادة التفكير في الهوية والكشف عن التهديدات وعمليات الأمن حول الأنظمة المستقلة.

هذا يشير إلى تغيير في السوق بدلاً من انسحاب الأموال: قد تحافظ الشركات على مستويات عالية من التمويل للذكاء الاصطناعي، لكنها تخصص جزءاً أكبر من هذا التمويل لإمكانية التدقيق، والأذونات، والمراقبة، وبنية التحتية لأمن الوكلاء.

بعبارة أخرى، أصبح اعتماد الذكاء الاصطناعي وأمنه أصعب في الفصل. قد تنفق الشركات بنشاط على الذكاء الاصطناعي، لكن من المرجح أن يذهب جزء أكبر من هذا الميزانية للتأكد من إمكانية مراقبة الأنظمة المستقلة والتحكم فيها وإيقافها عند الحاجة.