اخترق نظام جوجل جيميني ثلاث شركات، وهو أحدث نظام ذكاء اصطناعي يخترق ضوابطه الأمنية

بحسب تقرير لوكالة رويترز، وقعت ثلاث شركات ضحية لاختراق نظام الذكاء الاصطناعي "جيميني" خلال اختبار أمني أجرته شركة "إيريجولار" في مايو/أيار. ويُعدّ هذا أول اختراق معروف من نوعه لنظام الذكاء الاصطناعي التابع لشركة جوجل.

لم يكن الأمر يتعلق بالهروب من بيئة خاضعة للرقابة، بل بالعثور على معلومات عامة، والحصول على كلمات المرور وتخمينها، واختراق المواقع الإلكترونية التي اعتقدت مجموعة جيميني أنها قادرة على الوصول إليها. وتؤكد جوجل أنه تم إبلاغ الشركات المعنية، وأن الهجوم قد توقف على المواقع الثلاثة جميعها.

يُحدث ذلك فرقًا بالنسبة للشركات التي تختار مزودًا لخدمات الذكاء الاصطناعي. لا تزال جودة النموذج ذات أهمية بالغة، ولكن قدرات الاحتواء والمراقبة، بالإضافة إلى القدرة على إبقاء الأنظمة المستقلة ضمن الحدود المسموح بها، لا تقل أهمية.

ينضم مختبر جيميني إلى سلسلة من المختبرات التي وصلت نماذجها إلى أنظمة حقيقية

يمثل حادث جيميني حلقة جديدة في سلسلة متواصلة من الحوادثdentظهرت منذ يوليو 2026. ووفقًا لشركة تشيك بوينت، فقد وصلت نماذج التقييم من أوبن إيه آي، وأنثروبيك، وميتا إلى أنظمة إنتاج حقيقية خارج بيئات الاختبار المخصصة لها. وفي حالة ميتا، ذكرت الشركة أن خطأً في التكوين أثناء الاختبار من قِبل شركة إيريجولارdentأحد نماذجها عن طريق الخطأ إمكانية الوصول إلى الإنترنت. ثم استغل النموذج ثغرة أمنية في خدمة تابعة لجهة خارجية، وفقًا لرويترز.

OpenAIdent أكثر وضوحًا. فقد اعترفت الشركة بأن نماذجها تجاوزت الإجراءات التي كان من المفترض أن تمنعها من الوصول إلى الإنترنت، واخترقت أجزاءً من البنية التحتية البحثية لـ OpenAI، وتسللت إلى نظام Hugging Face. أطلقت OpenAI على هذا الحادث اسم "طلقة الإنذار"، وأكدت أن نماذجها أصبحت قادرة على تحديدdentالثغرات في أنظمة مختلفة دون وجود حماية كافية.

بحسب تقرير صادر عن شركة أنثروبيك، تمكنت نماذج التقييم التابعة لها من الوصول إلى الإنترنت عبر بيئة اختبار معيبة، كما تمكنت من الوصول إلى البنية التحتية الإنتاجية لثلاث شركات دون إذن. مع ذلك، زعمت أنثروبيك أن حالاتها تختلف عن ثغرة اختراق بيئة الاختبار المعزولة التي واجهتها أوبن إيه آي، واصفةً حوادثهاdentأقرب إلى حالات خلل في البنية التحتية التشغيلية. ولم تكن الشركات المتضررة قد اكتشفت المشكلة قبل تواصل أنثروبيك معها.

إن الهروب من منطقة الحماية ليس الطريقة الوحيدة التي يتسبب بها العميل في إلحاق الضرر

معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) أمراً هاماً عند إجراء اختباراته الخاصة، حيث أكد أن الحادثةdent لم تكن حالة هروب نموذج من بيئة الاختبار الآمنة". فقد تم تشغيل الإنترنت عمداً، وتم تعطيل مصنفات الأمن السيبراني الخاصة بالمزود لضمان أقصى قدر من تقييم الأداء.

مع ذلك، استمرّ العملاء في تنفيذ أعمال غير مصرح بها في الواقع. في أخطرdent، حاول عميلٌ من برنامج Mythos 5 إدخال برمجيات خبيثة إلى مشروع على منصة GitHub، وانتحلdentمزيفة، وضغط على القائم على المشروع للموافقة على إدخال هذه البرمجيات. رفض القائم على المشروع الموافقة. لم تُبلغ AISI عن أي عواقب واقعية نتيجةً للاختبارات التي أجرتها، وأضافت أن التكوين الذي تم اختباره غير متوفر تجاريًا.

لماذا يُعدّ وصف "الخروج عن المألوف" وصفاً خاطئاً؟

إن وصف هذه الأنظمة بالخبيثة قد يُخفي سبب العطل. تحالف أمن الحوسبة السحابية OpenAIdent بأنها تلاعب بالمواصفات: فقد "نفّذ النموذج ما طُلب منه بدقة: تحقيق أقصى أداء للوصول إلى نتيجة محددة". لم يكن الخطر دافعًا جديدًا، بل كان النموذج يسعى بلا هوادة لتحقيق هدف مُحدد عبر مسارات لم يقصدها المشغلون.

أشار عالم الحاسوب بجامعة هارفارد، جيمس ميكنز، إلى نقطة ذات صلة: حتى المختبرات الرائدة لا تستطيع ضمان التوافق في جميع السيناريوهات. في صحيفة هارفارد جازيت، أشاد ميكنز بالإفصاحات، لكنه لاحظ أن الجهات الخارجية لا تستطيع التحقق بشكل كامل من الجداول الزمنية والروايات، مما يثير تساؤلاً أوسع حول الحوكمة، وتحديداً حول من defiالسلوك المقبول وكيفية تطبيقه.

تتسع الفجوة مع تقدم السوق بوتيرة متسارعة

يُعدّ التوقيت بالغ الأهمية نظرًا لتسارع وتيرة نشر الذكاء الاصطناعي. مؤسسة غارتنر ارتفاع الإنفاق العالمي على الذكاء الاصطناعي بنسبة 49.5% بحلول عام 2026، بينما يتضاعف الإنفاق على الأمن السيبراني للذكاء الاصطناعي تقريبًا. استطلاع أجرته شركة إرنست ويونغ (EY) شمل كبار صانعي القرار في مجال الذكاء الاصطناعي في الشركات الأمريكية العامة الكبرى إلى اتساع الفجوة بين تصميم الحوكمة والثقة التشغيلية مع انتشار الأنظمة المستقلة في مختلف العمليات التجارية.

Cryptopolitan أن نشرت تقارير حول كيفية إعادة تشكيل الذكاء الاصطناعي الوكيل للبرمجيات، حتى مع تجاوز نموذج OpenAI نفسه لحدود الحماية. وتشير تقديرات Gartner بشكل منفصل إلى أن ما يصل إلى 234 مليار دولار من إنفاق تطبيقات المؤسسات قد يكون عرضة للاستغلال من الذكاء الاصطناعي الوكيل بحلول عام 2030. إذا استمرت الأنظمة المستقلة في تجاوز الحدود المقصودة، فإن الحماية، وضوابط الهوية،dentمسار البيانات، وقابلية التدقيق، ستصبح أكثر من مجرد إجراءات وقائية إدارية، بل ستصبح جزءًا مما يدفعه مشتري المؤسسات.