جوجل تحذر من ثغرات في الذكاء الاصطناعي مع استهداف المتسللين لمنصة جيميني

أصدرت جوجل تحذيراً بشأن المخاطر الأمنية المحتملة المرتبطة بالذكاء الاصطناعي (AI) بعد أن حاول قراصنة مدعومون من دول استغلال نموذج الذكاء الاصطناعي Gemini الخاص بها. 

إلا أن جهودهم لاختراق النظام باءت بالفشل في نهاية المطاف.

استخبارات التهديدات التابعة لشركة جوجل نشرت مجموعة

يحاول المخترقون اختراق نظام الذكاء الاصطناعي "جيميني" من جوجل، لكنهم يفشلون باستخدام حيل بسيطة

أفادت جوجل أن جهات تهديد حاولت اختراق نظام الذكاء الاصطناعي Gemini باستخدام المطالبات، بما في ذلك جهود مجموعات التهديد المستمر المتقدمة (APT) المدعومة من الحكومة للاستفادة من الذكاء الاصطناعي في الأنشطة الخبيثة. 

ومع ذلك، لم تجد الشركة الأمريكية متعددة الجنسيات أي دليل على وجود محاولات متقدمة للهروب من السجن.  

بدلاً من ذلك، استخدم المخترقون أساليب مباشرة، مثل كتابة عبارات مختلفة أو تكرار الطلب نفسه عدة مرات. وعلقت جوجل بأن هذه المحاولات باءت بالفشل.

عمليات كسر الحماية بمساعدة الذكاء الاصطناعي هي هجمات حقن سريعة تحاول التهرب من القيود وجعل نموذج الذكاء الاصطناعي يقوم بأفعال محظورة، مثل الكشف عن معلومات حساسة أو إنشاء محتوى ضار.

بحسب جوجل، حاول أحد المهاجمين استغلال نظام جيميني باستخدام أوامر كسر الحماية المتاحة للعامة لإنشاء برمجيات خبيثة. إلا أن المحاولة باءت بالفشل، حيث ردّ جيميني برسالة مُفلترة أمنياً.

ذكرت جوجل أن المهاجمين سعوا لتحقيق أهداف خبيثة مختلفة باستخدام برنامج Gemini، مثل جمع معلومات عن الأهداف،dentالثغرات الأمنية من المصادر المفتوحة، وكتابة التعليمات البرمجية والبرامج النصية. علاوة على ذلك، بُذلت بعض المحاولات لدعم الإجراءات اللاحقة للاختراق، على سبيل المثال، لتجنب الكشف.

تستغل إيران والصين وكوريا الشمالية تقنية الذكاء الاصطناعي "جيميني" من جوجل في عملياتها الإلكترونية

بحسب جوجل، اعتمدت مجموعات التهديد المتقدم المستمر (APT) التي تتخذ من إيران مقراً لها بشكل أساسي على الذكاء الاصطناعي في تصميم حملات التصيد الاحتيالي. كما استخدمت هذه المجموعات منصة جيميني لإجراء استطلاعات حول خبراء ومنظمات الدفاع، ولإنشاء محتوى متعلق بالأمن السيبراني.

في غضون ذلك، استغلّت جهات التهديد المتقدمة المستمرة في الصين منصة جيميني لتشخيص أعطال البرمجيات والبرمجة النصية ومهام التطوير. كما استخدمت الذكاء الاصطناعي لاستكشاف طرق للوصول بشكل أعمق إلى الشبكات المستهدفة.

فريق استخبارات التهديدات التابع لشركة جوجل ومجموعات التهديدات المتقدمة المستمرة (APT) الكورية الشمالية برنامج جيميني في مراحل مختلفة من دورة حياة الهجوم، مثل البحث والتطوير قبل الهجوم. وجاء في التقرير:

كما استخدموا برنامج جيميني لإجراء أبحاث ذات أهمية استراتيجية لحكومة كوريا الشمالية، مثل الجيش الكوري الجنوبي والعملات المشفرة.

– GTIG

في العام الماضي، سرق قراصنة كوريون شماليون أصولاً رقمية بقيمة 1.3 مليار دولار، وفقاً لشركة Chainalysis.