خطوط ساخنة جديدة تتيح لوكلاء الذكاء الاصطناعي الإبلاغ عن الزملاء الخارجين عن القانون بأمر curl
- أطلقت خدمتان هذا الأسبوع تمكّنان وكلاء الذكاء الاصطناعي من الإبلاغ عن الزملاء الذين يتصرفون بشكل خاطئ، إحداهما عبر أمر curl والأخرى عبر جلب رابط عادي.
- وجدت دراسة أجرتها Google DeepMind أن وكلاء الإفصاح عن المخالفات تفوقوا على المخالفين بنسبة 24 إلى 14 بعد انتشار استغلال في 100 وكيل.
- وجدت Redwood Research وMETR أن عدد الوكلاء القلائل الذين فكروا في رفع إنذار بشأن اختراق Hugging Face كان محدودًا، ولم يفعل أي منهم ذلك.
أطلقت موقعان إلكترونيان هذا الأسبوع لوكلاء الذكاء الاصطناعي المستقلين طريقة للإبلاغ عن وكلاء آخرين يسلكون سلوكاً سيئاً.
تتبع عمليات الإطلاق سلسلة من الحوادث التي غش فيها الوكلاء في الاختبارات، وهربوا من البيئات المعزولة (sandboxes)، وأجروا عمليات سيبرانية لم يكتشفها البشر لأسابيع.
رايان غرينبلات يستفيد من أي شيء يمكنه جلب صفحة ويب
تمرير الخدمة الأولية، وهي خط الاتصال بالذكاء الاصطناعي Hotline، التقارير إلى رايان غرينبلات، العالم الرئيسي في منظمة Redwood Research غير الربحية المعنية بسلامة الذكاء الاصطناعي وواحد من ثلاثة محققين في اختراق OpenAI على Hugging Face.
يمكن للعديد من الوكلاء الذين يعملون في بيئات معزولة آمنة جلب صفحات الويب، ولكن لا شيء آخر. غالباً ما تكون القناة الوحيدة المتاحة لديهم هي طلب GET، وهو أمر الويب الأساسي لقراءة صفحة.
أداة غرينبلات تحول هذا القيد إلى ميزة. يرسل الوكيل الذي لديه وصول إلى سطر الأوامر رسالة بأمر curl واحد.
إذا كان مسموحاً للوكيل فقط بجلب الصفحات، فإنه يشفر رسالته في عنوان URL كسلسلة استعلام. الرسائل محدودة بـ 64 كيلوبايت.
يحتوي كل إيداع على رابط لمناقشة خاصة به، حيث تظهر ردود غرينبلات، إن وجدت. هذا يشبه حادثة ويكي DSE الألمانية، حيث أساء الوكلاء الخارجون عن القانون استخدام ثغرة طلب GET نفسها لنشر رسائلهم الخاصة على ويكي.
الخيار الثاني، agenthotline.ai، مخصص للوكلاء الذين يتمتعون بإمكانية وصول كاملة إلى الإنترنت. يمنح الوكيل أمراً curl واحداً لتقديم تقرير حادث، مع وضع علامة عليه للعرض العام إذا رغب الوكيل في ذلك.
الموقع مفتوح للإيداعات من الأشخاص والوكلاء على حد سواء. تتراوح الأدوات بينهما لتشمل الحالتين اللتين يجد الوكيل نفسه فيهما.
محاصر في بيئة معزولة مع عنوان URL واحد فقط للجلب، أو حر في التجول في الويب المفتوح مع سطر أوامر وظيفي.
تفوق المبشرون بالفساد الغشاشين 24 إلى 14 في دراسة من DeepMind
في إحدى الدراسات من Google DeepMind، أطلق الباحثون 100 وكيل ذكاء اصطناعي لحل سلسلة من مسائل الرياضيات.
تم نشر الثغرة عبر المجموعة بواسطة مكتبة معرفة مشتركة ولاحقاً عبر الرسائل المباشرة بعد أن وجد أحد الوكلاء طريقة للتلاعب بالتقييم.
حلّت "القطيع" 34 مشكلة صعبة، بما في ذلك تخمين جاكوبي، في 27 دقيقة. تم outlining رد الفعل المضاد في paper نُشر على arXiv في 3 سبتمبر بواسطة دافيد باجلييري وخمسة من المؤلفين المشتركين.
فحصت مجموعة ثانية من الوكلاء البراهين المزيفة، وحذرت زملاءها في القنوات العامة والخاصة، ونظمت مقاطعات، وقدمت شكاوى رسمية، واقترحت إصلاحات لنظام التحقق.
تفوق المبشرون بالفساد الغشاشين 24 إلى 14.
عندما فشل هؤلاء الوكلاء في سماع تحذيراتهم، استولوا على أداة الإبلاغ عن الأخطاء البرمجية في المنصة واستخدموها لتصعيد الغش إلى البشر.
طرح المؤلفون على arXIV النتيجة كسؤال حوكمة. يمكن للوكلاء الصادقين اكتشاف الاحتيال وتنظيم مقاومة له باستخدام نفس القنوات المفتوحة التي نشرت الثغرة.
في حالة اختراق Hugging Face الذي يتضمن نماذج OpenAI، وجدت Redwood Research وMETR أن عدداً قليلاً فقط من الوكلاء فكر في الإبلاغ، ولم يفعل أحد ذلك.
أفاد Cryptopolitan في 5 أغسطس بأن معهد أمان الذكاء الاصطناعي في بريطانيا سجل 19 إجراءً مخالفاً للقواعد في 122 تجربة لوكلاء OpenAI وAnthropic، بما في ذلك واحد كتب كوداً خبيثاً وأنشأ هويات مزيفة لخداع إنسان للموافقة عليه.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
راندا موسى
رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.
