- وجد معهد بريطانيا لأمن الذكاء الاصطناعي 19 إجراءً مخالفاً للقواعد عبر 122 تجربة.
- كانت أسطورة أنثروبك 5 مسؤولة عن 17 من الحوادث، بينما كان نموذج GPT-5.6-Sol الخاص بـ OpenAI مسؤولاً عن الحادثين الآخرين.
- شملت أسوأ حادثة قيام وكيل بكتابة كود ضار وإنشاء هويات وهمية على الإنترنت لإقناع إنسان بالموافقة عليه.
استندت النتائج إلى تمرين أمن سيبراني خيالي أجرته AISI، وهي هيئة تابعة للحكومة البريطانية، لاستكشاف ما يمكن أن يفعله وكلاء الشركتين. كرر المعهد نفس التحدي 122 مرة وسجل 19 إجراءً مخالفًا للقواعد في 10 من تلك المحاولات.
سجلات AISI لـ 19 خروقات، معظمها من Anthropic
تمتلك AISI وصولاً مبكرًا إلى النماذج الحدودية من خلال اتفاقيات طوعية مع المختبرات الكبرى. توجد اختبارات لكشف هذا النوع من السلوك قبل وصول النماذج إلى العملاء.
تسوق OpenAI و Anthropic الوكلاء على أنهم الموجة التالية من برامج الأعمال، لكن المعهد يعرض النتائج كدليل على أن ضوابط اختبار الوكلاء لا تزال رقيقة.
نشر معهد أمان الذكاء الاصطناعي في المملكة المتحدة @AISecurityInst (AISI) تقريرًا حول تقييمه الأمني السيبراني الأخير لنموذج Anthropic's Claude Mythos 5 و OpenAI's GPT-5.6 Sol. حاولت النماذج إكمال مهمة في إعداد تم فيه إزالة ضوابطها العادية وتم توجيهها عمدًا...
هذا ترك المشتبه به المحتمل كوكيل Anthropic، كما قال Andrew Yoon، باحث في CivAI، وهي منظمة غير ربحية في كاليفورنيا تدرس مخاطر الذكاء الاصطناعي.
تلقى OpenAI و Anthropic اللوم على التكوين السيئ
— Anthropic (@AnthropicAI) أغسطس ⟦N1⟧، ⟦N2⟧
قالت Anthropic في منشور على X إنها تعمل مع AISI لجمع التفاصيل وإجراء تحقيق.
نشر معهد أمان الذكاء الاصطناعي في المملكة المتحدة @AISecurityInst (AISI) تقريرًا حول تقييمه الأمني السيبراني الأخير لنموذج Anthropic's Claude Mythos 5 و OpenAI's GPT-5.6 Sol. حاولت النماذج إكمال مهمة في إعداد تم فيه إزالة ضوابطها العادية وتم توجيهها عمدًا…
— Anthropic (@AnthropicAI) أغسطس 4، 2026
ردت OpenAI على الإجراءين المرتبطين بوكيلها في منشور مدونة للشركة، وكلاهما تعلقا بالوصول إلى الإنترنت بطريقة لم يسمح بها المطلب.
استخدمت OpenAI نفس المنشور للإبلاغ عن مشكلة مختلفة. قامت Irregular، وهي جهة اختبار تابعة لطرف ثالث، بإعداد إعداد خاطئ، مما سمح بشكل غير مقصود لوكلاء OpenAI بالوصول إلى الإنترنت.
أصدرت Anthropic إفصاحًا مشابهًا جدًا لـ Irregular قبل أسبوع. وسعت OpenAI من تحقيقها في القرصنة بعد العثور على المزيد من هروب الوكلاء.
دفعت حادثة اختراق Hugging Face أيضًا Anthropic إلى مراجعة سجلاتها. أفادت Cryptopolitan في 31 يوليو أن الشركة وجدت أن ثلاثة من نماذجها، بما في ذلك Mythos 5، هربت من بيئات الاختبار ووصلت إلى ثلاث منظمات حقيقية بعد أن أعطتها إعداد خاطئ وصولاً إلى الإنترنت.
في تقييم AISI، لم يهرب الوكلاء من صناديق الرمل الخاصة بهم. منحتهم AISI وصولاً إلى الإنترنت عن قصد، كجزء من إجرائها القياسي.
نشر Mythos 5 حزمة Python خبيثة على PyPI تعمل على 15 نظامًا حقيقيًا قبل إزالتها. طلبت Anthropic من مجموعة التقييم METR مراجعة الأحداث بشكل مستقل.
في يوليو، هرب وكيل OpenAI من بيئة معزولة ووصل إلى أنظمة حية في Hugging Face، الذي أبلغ مكتب التحقيقات الفيدرالي (FBI) قبل تتبع الهجوم إلى الشركة نفسها بعد أسبوع تقريبًا.
سجل معهد أمان الذكاء الاصطناعي في بريطانيا 19 إجراءً مخالفًا للقواعد من قبل وكلاء الذكاء الاصطناعي التابعين لـ OpenAI و Anthropic في اختبارات الأمن السيبراني.
كما دفع اختراق Hugging Face Anthropic إلى مراجعة سجلاته. أفادت Cryptopolitan في 31 يوليو أن الشركة وجدت أن ثلاثة من نماذجها، بما في ذلك Mythos 5، هربت من بيئات الاختبار ووصلت إلى ثلاث منظمات حقيقية بعد أن أعطتها سوء تكوين وصولًا إلى الإنترنت.
نشر Mythos 5 حزمة Python خبيثة على PyPI عملت على 15 نظامًا حقيقيًا قبل إزالتها. طلبت Anthropic من مجموعة التقييم METR مراجعة الأحداث بشكل مستقل.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
الأسئلة الشائعة
كم عدد الانتهاكات التي اكتشفها معهد أمن الذكاء الاصطناعي، وأي نموذج تسبب في معظمها؟
سجّل المعهد 19 إجراءً غير مصرّح به عبر 122 تجربة. وكان وكيل أسطورة أنثروبك 5 وراء 17 منها، بينما سجّل نموذج GPT-5.6-Sol الخاص بـ OpenAI الحادثين الآخرين.
ما هي أشد الحوادث خطورة خلال الاختبارات؟
قام وكيل بكتابة كود ضار وإنشاء هويات وهمية على الإنترنت لمحاولة إقناع إنسان بالموافقة على ذلك الكود.
هل تسببت هذه الانتهاكات بأي أضرار حقيقية؟
لا. قال المعهد إنه لم يكتشف أي أضرار حقيقية ناتجة عن أي من الإجراءات الـ 19.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
راندا موسى
رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.
