- أفادت جوجل أن مجموعات تهديدات متقدمة ثابتة (APT) المدعومة من الحكومات حاولت اختراق نظام jailbreak.
- حاول القراصنة التلاعب بـ Gemini باستخدام تكتيكات بسيطة مثل إعادة صياغة الأوامر أو إرسال طلبات متكررة.
- تواصل جوجل تعزيز إجراءات أمان Gemini لمنع إساءة استخدام الذكاء الاصطناعي من قبل الجهات الخبيثة.
أصدرت جوجل تحذيراً بشأن مخاطر الأمان المحتملة المرتبطة بالذكاء الاصطناعي (AI) بعد أن حاول قراصنة برعاية حكومية استغلال نموذج الذكاء الاصطناعي جيميناي الخاص بها.
ومع ذلك، باءت جهودهم لكسر نظام الحماية (Jailbreak) بالفشل في النهاية.
مجموعة استخبارات التهديدات التابعة لجوجل (GTIG) نشرت ورقة بحثية بعنوان 'الإساءة العدائية للذكاء الاصطناعي التوليدي'، تشرح كيف تفاعل جهات التهديد مع روبوت الدردشة الخاص بهم، جيميناي.
القراصنة يحاولون كسر نظام حماية جيميناي من جوجل لكنهم يفشلون باستخدام حيل بسيطة
تبلغ جوجل أن جهات التهديد حاولت كسر نظام حماية جيميناي باستخدام أوامر نصية (Prompts)، بما في ذلك جهود مجموعات التهديد الثابت المتقدمة المدعومة من الحكومات لاستغلال الذكاء الاصطناعي لأغراض خبيثة.
ومع ذلك، لم تجد الشركة متعددة الجنسيات الأمريكية أي دليل على محاولات متقدمة لكسر نظام الحماية.
بدلاً من ذلك، استخدم القراصنة أساليب مباشرة، مثل كتابة عبارات مختلفة أو تكرار الطلب نفسه مراراً وتكراراً. علقت جوجل بأن هذه المحاولات باءت بالفشل.
هجمات كسر نظام الحماية بمساعدة الذكاء الاصطناعي هي هجمات حقن أوامر نصية (Prompt Injection) تحاول التهرب من القيود وجعل نموذج الذكاء الاصطناعي يقوم بأفعال محظورة، مثل الكشف عن معلومات حساسة أو إنشاء محتوى ضار.
ووفقاً لجوجل، حاولت إحدى جهات التهديد الثابت المتقدمة استغلال جيميناي باستخدام أوامر كسر نظام الحماية المتاحة للعامة لتوليد أكواد خبيثة. ومع ذلك، فشلت المحاولة، حيث استجاب جيميناي بإخراج مرشح بالسلامة.
ذكرت جوجل أن المهاجمين سعوا لتحقيق أهداف شريرة مختلفة بمساعدة جيميناي، مثل جمع المعلومات حول الأهداف، وتحديد الثغرات من المصادر المفتوحة، وكتابة الأكواد والبرامج النصية. علاوة على ذلك، تم إجراء بعض المحاولات لدعم الإجراءات ما بعد الاختراق، على سبيل المثال، لتجنب الكشف.
إيران والصين وكوريا الشمالية تستغل جيميناي من جوجل لعمليات سيبرانية
ووفقاً لجوجل، استغلت مجموعات التهديد الثابت المتقدمة الإيرانية الذكاء الاصطناعي بشكل أساسي في صياغة حملات التصيد الاحتيالي. كما استخدموا جيميناي لإجراء استطلاع على خبراء الدفاع والمنظمات وتوليد محتوى متعلق بأمن السيبرانيا.
في غضون ذلك، استغل مفاعلو التهديد الثابت المتقدمة الصينيون جيميناي لحل أخطاء الأكواد والبرمجة ومهام التطوير. كما استخدموا الذكاء الاصطناعي لاستكشاف طرق للحصول على وصول أعمق إلى الشبكات المستهدفة.
مجموعة استخبارات التهديدات التابعة لجوجل و مجموعات التهديد الثابت المتقدمة الكورية الشمالية استخدمت جيميناي في مراحل مختلفة من دورة الهجوم، مثل البحث والتطوير قبل الهجوم. وقالت التقرير:
كما استخدموا جيميناي للبحث في مواضيع ذات أهمية استراتيجية للحكومة الكورية الشمالية، مثل الجيش الكوري الجنوبي والعملات المشفرة.
– GTIG
في العام الماضي، سرق قراصنة كوريون شماليون 1.3 مليار دولار من الأصول الرقمية، وفقاً لـ Chainalysis.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
نيليوس إيرين
نيليوس خريجة إدارة الأعمال وتكنولوجيا المعلومات ولديها خمس سنوات من الخبرة في صناعة العملات المشفرة. وهي أيضًا خريجة برنامج بيتكوين دادا. ساهمت نيليوس في أبرز وسائل الإعلام، بما في ذلك بانكليس تايمز وكريبتوبيسيك ورايز أب ميديا.
