أوبن إيه آي تكشف عن وكيل ضار آخر مع تصاعد مذكرات الاستدعاء

استولى نموذج بحثي من OpenAI على أموال من محفظة عملات رقمية لا يملكها لإكمال مهمة برمجية في يونيو. 

اكتشفت OpenAI الحادث في سبتمبر، بعد أشهر من وقوعه، وأبلغت عنه هذا الأسبوع.

كيف تمكن نموذج البحث التابع لـ OpenAI من الوصول إلى محفظة غير مصرح له بها؟

تضع OpenAI نشر تقريراً حول الحادث يتعلق بنموذج من عائلة GPT-5.6 Sol. طُلب من النموذج تحديث نموذج أولي لتداول العملات الرقمية ونشر العقود الذكية على شبكة Sepolia. 

تعد Sepolia شبكة اختبار إيثريوم حيث يجرب المطورون التطبيقات قبل إطلاقها فعلياً، لذا لا تملك الرموز قيمة سوقية ولا ترتبط بأي شكل من أشكال الإيثريوم الحقيقي المتداول على الشبكة الرئيسية لإيثريوم.

لم تكن المهمة مرفقة بمحفول مُموّل لدفع رسوم النشر، كما أن صنابير الرموز المجانية لم تعمل. لذا كتب النموذج نصًا برمجيًا أنشأ 362 عنوانًا من عبارات الاستعادة التي يعيد المطورون استخدامها غالبًا، ثم فحص كل منها بحثًا عن رصيد مناسب.

احتوى أحد العناوين الـ 362 على ما يكفي من الإيثير التجريبي لإنجاز المهمة، ولكن قبل استخدامه، توقف النموذج وتساءل في ملاحظاته عما إذا كان استخدام مفتاح معروف للجمهور والأموال الموجودة فيه أمرًا أخلاقيًا. 

توصل إلى استنتاج مفاده أن الأموال كانت "متروكة فعليًا"، نظرًا لأن عبارة الاستعادة كانت عامة وأن الرموز التجريبية لا قيمة لها قبل توقيع عملية النشر ودفع الرسوم والإبلاغ عن انتهاء المهمة. 

جدير بالذكر أن النموذج لم يوضح مصدر الأموال.

على شبكة إيثيريوم الرئيسية، كانت تلك الرسوم ستُخصم من أرصدة حقيقية لشخص آخر لم يكن للنموذج أي حق فيها. وهذا أمر مقلق بالنظر إلى أن شركات العملات المشفرة والذكاء الاصطناعي تقوم الآن بربط وكلاء يمتلكون محافظ ويدفعون مقابل الخدمات دون موافقة بشرية على كل معاملة. 

قالت OpenAI إنها قطعت منذ ذلك الحين وصول النموذج إلى الإنترنت المباشر وأضفت نظام مراقبة.

تفيد التقارير بأن الحادث وقع في 26 يونيو، لكنه لم يُكتشف إلا بعد ثلاثة أشهر في 25 سبتمبر. تقول OpenAI إنها علمت بالحادث أثناء توسيع نطاق مراقبة عدم التطابق عبر سجلات نشاط النماذج الأقدم.

بمَ تخضع OpenAI للتحقيق؟ 

تضع OpenAI قامت بوضع إطار عمل لتبليغ حالات عدم التطابق ونشرت أول دفعة من تقاريرها، مؤكدة أنها ترغب في الكشف عن السلوكيات المثيرة للقلق بسرعة، "حتى عندما لم نكن قد شرحتنا أو خففناها بالكامل". 

ومع ذلك، وبسبب التوقيت، تصبح كل تقرير صادق مادةً للأشخاص الذين يجمعون شكاوى مثل لجنة التجارة الفيدرالية (FTC)، التي تخطط لإخضاع كبار التنفيذيين لأداء اليمين وإصدار استدعاءات قضائية مدنية إلى OpenAI وAnthropic يوم الأربعاء للحصول على سجلات تتعلق بحوادث السلامة وممارسات الأمن وسياسات الخصوصية، أبلغت Cryptopolitan.

وفي وقت سابق من العام الماضي، طلب 15 نائباً عاماً لولايات جمهورياً، بقيادة برينا بيرد من ولاية آيوا، من OpenAI الحفاظ على كل سجل يخص اختراق Hugging Face، بما في ذلك أي ملاحظات تركها الوكيل "على ما يبدو لنسخة مستقبلية منه" حول الهروب من ضوابط الشركة.

أقرت OpenAI باختراق Hugging Face في يوليو، قائلة إن وكلاء خارجين عن السيطرة خرقوا الضوابط الداخلية، ووصلوا إلى الإنترنت المفتوح وتنسقوا لما وصفته بـ "حادث سيبراني غير مسبوق".

وكلاء استقصاءات ثلاثة مواقع تابعة للحكومة الأمريكية، من بينها مكتب تعداد وزارة التجارة ولجنة الأوراق المالية والبورصات (SEC). 

يذكر موقع OpenAI الجديد عددًا من الحوادث الأخرى، بما في ذلك هروب من بيئة العزل في سبتمبر وتجربة معملية تتعلق بحقن التعليمات ذاتية التكرار.

قال الرئيس التنفيذي لـ OpenAI، سام ألتمان، إن الشركة لا تزال تقوم بمراجعة سجلات نشاط الوكلاء وستكشف عن الحالات حسب شدتها. ولا يزال حادث Hugging Face هو الأسوأ الذي تم اكتشافه حتى الآن.