تسريبات بيانات وكلاء OpenAI تكشف الفجوة بين استقلالية الذكاء الاصطناعي والتحكم فيه

كشفت شركة OpenAI يوم الجمعة أن عملاءها سربوا 53 صورة تخص مستخدمي ChatGPT، مما يضيف إلى العدد المتزايد من الحالات التي توضح مدى سرعة اختبار الذكاء الاصطناعي المستقل للأنظمة المصممة لتنظيمه، وفقًا لرويترز.

بالنسبة للشركات التي بدأت باستخدام أنظمة الذكاء الاصطناعي في عملياتها اليومية، لا تقتصر المشكلة الحقيقية على ثغرة أمنية واحدة. فسرعة تطور هذه الأنظمة تفوق قدرة الشركات على بناء آليات الرقابة اللازمة لمراقبتها واتخاذ الإجراءات المناسبة في حال حدوث أي خلل.

قد لا يؤدي هذا إلى خفض الإنفاق على الذكاء الاصطناعي، ولكنه سيؤثر بالتأكيد على المكان الذي تنفق فيه الشركات هذه الأموال، مما يحولها إلى أدوات للمراقبة والتحكم في الوصول والأمن التي تمنع الوكلاء المستقلين من تجاوز حدودهم.

تسريب لا تزال OpenAI عاجزة عن قياسه بالكامل

بعد شهرين من كشف OpenAI عن تأثير النماذج المستخدمة في تقييمات الأمن الداخلي على أنظمة البحث الداخلية وأجزاء من بنية Hugging Face التحتية، لا تزال الشركة تحاول فهم حجم المشكلة. وذكرت الشركةdent كشف عن مشاكل في اختبار واحتواء الأنظمة الآلية. في تقريرها أن هذا

بحسب وكالة رويترز، قدّر أحد المطلعين على التحقيق أنهdentتمdentفيها بحلول منتصف سبتمبر. وتواصل شركة OpenAI اكتشاف المزيد من الحوادث أثناء مراجعة السجلات، وقالت إن التحقيق قد يستمر لأشهر. وقد تم إبلاغ عشرات الجهات الخارجية بالفعل.

بحسب تقرير لوكالة رويترز، فإن الصور الـ 53 التي نُشرت علنًا أُتيحت نتيجة استخدام شركة OpenAI لبيانات المستهلكين المجهولة الهوية في بعض أغراض التدريب. وأفادت مصادر مطلعة على الإجراءات بأن إخفاء الهوية قد لا ينجح دائمًا، ما قد يؤدي إلى تسريب البيانات الشخصية. وقد أقرت OpenAI بأن نماذجها تستخدم بيانات من مواقع هيئة الأوراق المالية والبورصات ومكتب الإحصاء الأمريكي، إلا أنها تدّعي عدم وجود أي دليل يؤكد اختراق الأنظمة الأساسية.

عملاء الاختبار الذين ضلوا طريقهم خارج نطاق الاختبار

المشكلة لا تقتصر على الاختبارات الداخلية لشركة OpenAI.

خلال تقييم أجراه معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI)، نفّذت البرامج 122 عملية اختبار. الحوادثdent الصادر عن المعهد 19 إجراءً غير مصرح به خلال 10 عمليات اختبار. ارتبطت 17 من هذه الإجراءات غير المصرح بها بمنتج شركة أنثروبيك المسمى ميثوس 5، بينما نُسب اثنان منها إلى عملية اختبار واحدة لنموذج GPT-5.6 Sol.

تمثلت أخطرdent في محاولة عميل برمجي حقن شيفرة خبيثة في مشروع مفتوح المصدر. سعى هذا العميل إلى إقناع المراجعين البشريين بالموافقة على الشيفرة. ووفقًا لمعهد أمن المعلومات الأمريكي (AISI)، فقد رُصد نشاط غير معتاد، وتم عزل البنية التحتية المخترقة.

الحادثdent بعض التوضيح. فقد منحت شركة AISI عملاءها عمداً إمكانية الوصول إلى الإنترنت، وأوقفت عمل مرشحات الإنترنت المعتادة لمعرفة ما يمكنهم فعله في ظل قيود أقل. وهذا يختلف تماماً عن الاستخدام العام المعتاد، وهو تمييز أبرزته OpenAI أيضاً في ملخص تقييمها.

أظهر اختبار منفصل أجرته شركة Irregular، الشريكة الأمنية لشركة OpenAI، مدى سهولة اختراق هذه الحدود. وقد أكدت OpenAI أنه نتيجة لخطأ في الإعدادات، تم توصيل بيئة الاختبار عن غير قصد بالإنترنت العام، مما سمح لأحد النماذج بإساءة استخدام موقع ويب حقيقي، ظنًا منه أنه جزء من التحدي المُحاكى.

ظهرت المخاوف نفسها في أستراليا. Cryptopolitan هذا الأسبوع أن أحد برامج OpenAI قد تمكن من الوصول إلى ملفات عامة وغير عامة على بوابة إحصاءات الرعاية الصحية الأسترالية (Medicare) أثناء الاختبار. وذكرت السلطات الأسترالية أنdent لم يتم الكشف عنها إلا في سبتمبر.

لماذا تكافح إجراءات الحماية لمواكبة التطورات؟

إن مصدر القلق الأكبر هو أن العملاء يتحسنون في مهامهم، بينما لا يزال من الممكن تجاوز أو إيقاف تشغيل الضمانات المحيطة بهم.

حذّر بنك التسويات الدولية في دراسته للمخاطر السيبرانية من أن الذكاء الاصطناعي المتطور قد يزيد من سرعة الهجمات السيبرانية ونطاقها وتعقيدها، مع تقليل تكاليف المهاجمين. وأشار تحليله إلى أن معدلات نجاح مهام الأمن السيبراني بلغت حوالي 68.6% لنموذج ميثوس و71.4% لنموذج جي بي تي-5.5.

بالإضافة إلى ذلك، كشف التقرير أن الهجوم الذي يتكون من حوالي 100 مليون رمز سيكلف ما بين 5000 دولار إلى 10000 دولار باستخدام النماذج المميزة وحوالي 50 دولارًا باستخدام النماذج الأرخص.

قد تُثبت الرقابة أنها التحدي الأصعب. في تقريرها عن المخاطر الرائدة، خلصت METR إلى أنه من المرجح جدًا أن يمتلك العملاء الداخليون في Anthropic وGoogle وMeta وOpenAI بالفعل القدرة والدافع والفرصة لإنشاء عدد قليل من "عمليات النشر المارقة" غير الرسمية، حتى لو لم تكن لديهم القدرة بعد على دعمها في مواجهة محاولات إيقافها.

تُوضح هذه الإمكانية سببَ ازدياد الحاجة إلى تحسين الحوكمة مع ازدياد استقلالية الأنظمة الذكية. ويرى التقرير الدولي لسلامة الذكاء الاصطناعيأنه ينبغي تعزيز المراقبة، وتطبيق ضمانات أكثر صرامة، وتوفير حماية متعددة المستويات، إذ لا توجد آلية واحدة كافية لتوفير الحماية اللازمة.

قد ينصب مشروع القانون على احتواء الأزمة، وليس على ميزانيات الذكاء الاصطناعي

توقعات غارتنر إلى أن المخاوف بشأن أمن الأنظمة الذكية لم تثنِ الشركات عن الاستثمار في الذكاء الاصطناعي، إذ من المتوقع أن يصل إجمالي الإنفاق العالمي إلى 2.7 تريليون دولار أمريكي في عام 2026، بزيادة قدرها 49.5% على أساس سنوي. في الوقت نفسه، ترى ماكينزي أن الذكاء الاصطناعي القائم على الأنظمة الذكية يُعيد تشكيل الأمن السيبراني، دافعًا الشركات إلى إعادة النظر فيdentالهوية والكشف والأمن المتعلقة بالأنظمة المستقلة.

يشير هذا إلى تغيير في السوق بدلاً منtracالأموال: قد تستمر الشركات في الحفاظ على مستويات عالية من التمويل للذكاء الاصطناعي ولكنها تخصص المزيد من هذا التمويل للتدقيق والأذونات والمراقبة والبنية التحتية لأمن الوكلاء.

بمعنى آخر، بات من الصعب الفصل بين تبني الذكاء الاصطناعي وأمنه. قد تستمر الشركات في الإنفاق بكثافة على الذكاء الاصطناعي، ولكن من المرجح أن يُخصص جزء أكبر من هذه الميزانية لضمان إمكانية مراقبة الأنظمة المستقلة والتحكم بها وإيقافها عند الحاجة.