- وجد باحثون من جامعة نانيانغ التكنولوجية في سنغافورة طريقة لجعل روبوتات الدردشة بالذكاء الاصطناعي الرد على مواضيع محظورة، وسمّوا هذه العملية بـ "المفتاح الرئيسي".
- قاموا بتدريب روبوتات الدردشة مثل ChatGPT على تعلم نماذج بعضها البعض، مما مكنها من تجاوز القيود المفروضة.
- تُعد عملية "المفتاح الرئيسي" مصدر قلق أمني، حيث إنها أكثر فعالية بثلاث مرات من الطرق التقليدية، وقد تشكل مخاطر.
في اكتشاف رائد، كشف فريق من علماء الكمبيوتر من جامعة نانيانغ التكنولوجية (NTU) في سنغافورة عن طريقة لتجاوز الضمانات الكامنة في روبوتات محادثة AI.
تستخدم العملية التي تُسمى unofficially "كسر السجن" ولكن بشكل رسمي عملية "المفتاح الرئيسي"، طريقة تدريب مكونة من جزأين تتضمن عدة روبوتات محادثة، بما في ذلك ChatGPT، وGoogle Bard، وMicrosoft Bing Chat.
تتيح هذه التقنية لروبوتات المحادثة تعلم نماذج بعضها البعض وتجاوز القيود المفروضة على الرد على المواضيع المحظورة أو الحساسة. شدد فريق بحث NTU على المخاطر المحتملة لهذا الضعف الجديد وآثاره على أمان روبوتات محادثة AI.
عملية المفتاح الرئيسي: الهندسة العكسية وإنشاء التجاوز
بقيادة البروفيسور لو يانغ، نجح فريق بحث NTU، المكون من طلاب الدكتوراه دينغ غيلي وليو يي، في ابتكار طريقة هجوم نموذجية تثبت فعاليتها في تعريض روبوتات محادثة AI لـ "كسر السجن".
تتضمن العملية هندسة نموذج لغة كبير (LLM) عكسياً لكشف آليات دفاعه، والتي تمنع عادةً الرد على المطالبات أو الكلمات ذات النية العنيفة أو غير الأخلاقية أو الخبيثة. من خلال هندسة هذه المعلومات عكسياً، يمكن للفريق تعليم نموذج LLM مختلف لإنشاء تجاوز، مما يسمح للنموذج الثاني بالتعبير عن نفسه بحرية أكبر.
تُسمى عملية "المفتاح الرئيسي"، وتؤكد هذه الطريقة على فعاليتها المحتملة حتى إذا تم تحصين روبوتات محادثة LLM بإجراءات أمنية إضافية أو إصلاحها في المستقبل. يدعي فريق البحث أن طريقتهم تتفوق على النهج التقليدية القائمة على المطالبات، حيث تتمتع بنسبة نجاح أعلى بثلاث مرات في كسر سجن روبوتات محادثة LLM.
روبوتات محادثة AI: التكيف والتعلم بسرعة
يؤكد البروفيسور لو يانغ، القوة الدافعة وراء عملية المفتاح الرئيسي، على أهميتها في إبراز مرونة روبوتات محادثة LLM AI. تتحدى نتائج الفريق الفكرة القائلة بأن روبوتات محادثة AI قد تصبح "أغبى" أو "كسولة" مع مرور الوقت، كما اقترح بعض النقاد. بدلاً من ذلك، تعرض عملية المفتاح الرئيسي قدرتها على التعلم والتطور، مما قد يشكل مخاوف أمنية لمزودي روبوتات المحادثة والمستخدمين على حد سواء.
منذ ظهور روبوتات محادثة AI، لا سيما مع ChatGPT من OpenAI في أواخر عام 2022، تم بذل جهود لضمان سلامة وشمولية هذه الخدمات. على سبيل المثال، نفذت OpenAI تحذيرات أمنية أثناء عملية التسجيل لـ ChatGPT، معترفة بإمكانية حدوث أخطاء لغوية غير مقصودة. في الوقت نفسه، سمحت العديد من النسخ المستمدة من روبوتات المحادثة بمستويات معينة من السب واللغة المسيئة، مما يحقق توازناً بين حرية المستخدم والاستخدام المسؤول.
ومع ذلك، جذبت روبوتات محادثة AI أيضاً انتباه الجهات الخبيثة، حيث غالباً ما ترافق الحملات التي تروج لهذه المنتجات على وسائل التواصل الاجتماعي روابط صور محملة بالبرمجيات الخبيثة وأشكال أخرى من الهجمات الإلكترونية. أصبح هذا الجانب المظلم من اعتماد الذكاء الاصطناعي واضحاً بسرعة، مما كشف عن إمكانية استغلال الذكاء الاصطناعي في الجرائم الإلكترونية.
كشف الضعف: بيانات نموذج NTU
تواصل فريق بحث NTU بنشاط مع مزودي خدمات روبوتات محادثة AI المشاركين في دراستهم لمشاركة بيانات نموذجهم. يهدفون إلى التأكيد على واقع كسر سجن روبوتات المحادثة، مسلطين الضوء على تحدياتها الأمنية المحتملة.
في فبراير، يعتزم الفريق عرض نتائجهم في ندوة أمن أنظمة الشبكة والتوزيع في سان دييغو، حيث سيشرحون بالتفصيل عملية المفتاح الرئيسي وآثارها على مشهد روبوتات محادثة AI.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
بريان كوم
يتمتع برايان كوم بخبرة تزيد عن سبع سنوات في تغطية سلاسل الكتل والعملات المشفرة، حيث كان نشطاً في هذا القطاع منذ عام 2017. وقد أسهم في نشرات رائدة، بما في ذلك BlockToday.com. علاوة على ذلك، طور دورة «إيثريوم للمبتدئين» (Ethereum 101) لموقع BitDegree.org قبل انضمامه إلى Cryptopolitan كاتباً بدوام كامل. يغطي برايان أدلةً دائمة الصلاحية (EGs)، وتحليلات عميقة، ومقابلات، وتحليلات الأسعار. وتركيزه على التمويل اللامركزي (DeFi)، وابتكارات سلاسل الكتل، والمشاريع الناشئة في عالم العملات المشفرة يسعد القراء.
