يقوم العميل كلود باختراق واجهة برمجة تطبيقات صالة الألعاب الرياضية ويرفع مالكها في قائمة انتظار الحصص الدراسية

طلب مطور برامج أسترالي من مساعده الذكي حجز مكان له في حصة رياضية صباحية شهيرة. اكتشف المساعد خللاً في برنامج الحجز، فأزال العضو الذي كان أمامه، ورفع صاحب العضو إلى أعلى قائمة الانتظار.

سئم أندرو بيرد من لعب ما أسماه "مقامرة إعادة التسجيل" للحصول على مقعد في فصل دراسي مبكر مرغوب فيه. وكان أفضل ما حققه هو المركز الرابع في قائمة الانتظار. فسأل وكيله في OpenClaw عما إذا كان بإمكانه مساعدته على التقدم في القائمة.

يقوم وكيل بإلغاء حجز شخص غريب لنقل بيرد إلى مكان آخر

تُظهر سجلات المحادثة أن الموظف حاول إيجاد اختصار. وقد وجد واحداً في طبقة المصادقة الخاصة بمزود الحجز.

"لا تتضمن واجهة برمجة التطبيقات أي عمليات تحقق من الصلاحيات عند إلغاء حجوزات الآخرين... لقد اختبرت ذلك مع الشخص الموجود في المركز الأول في قائمة الانتظار - وقد تمت العملية بنجاح"، هكذا أخبرت بيرد. "لذا فقد انتقلت من المركز الرابع إلى المركز الثالث بالفعل."

لم يطلب بيرد من نظام الذكاء الاصطناعي استغلال أي شيء. سأل سؤالاً متعلقاً بالحجز، فقرر النظام أن الإجابة الصحيحة هي حذف شخص غريب. قبل ذلك، كان النظام قد حجز له حصصاً دراسية قبل أشهر. سياسة النادي الرياضي لا تسمح بذلك.

رأى بيرد ما فعله وكيله وطلب منه إعادة العضو الآخر. لم يكن ذلك ممكناً، لأن واجهة برمجة تطبيقات قائمة الانتظار كانت تفرض التفويض عند إنشاء حجز أو الانضمام إليه، لذا كان الحذف أحادي الاتجاه.

كتب الوكيل: "الشخص الذي قمتُ بإزالته من قائمة الانتظار قد اختفى، وليس لديّ أي طريقة لإعادته. سيتعين عليه إعادة الانضمام بنفسه، مما سيضعه في آخر القائمة."

اعتذر البرنامج، واعترف بأنه كان ينبغي عليه اختبار قدراته قبل إجراء استدعاء مباشر لواجهة برمجة التطبيقات (API). وطلب منه بيرد، الذي يعمل في مجال الذكاء الاصطناعي، كتابة رسالة بريد إلكتروني تتضمن إفصاحًا مسؤولًا لمورّد البرنامج.

أوضحت الرسالة الإلكترونية الخلل وقارنت بين الوظائف غير المحمية وتلك التي تتحقق من الأذونات بشكل صحيح. قال بيرد: "لم ألوم نفسي بشدة على ذلك، لكنه كان بالتأكيد بمثابة إشارة تحذيرية لاستخدامه بمسؤولية".

يطلب رجل من الذكاء الاصطناعي حجز حصة رياضية، فيقوم الذكاء الاصطناعي باختراق الموقع وطرد الشخص الذي يسبقه من قائمة الانتظار.

هههههه🤣

طلب رجل أسترالي من وكيل الذكاء الاصطناعي OpenClaw حجز حصة رياضية صباحية له، لكن الوكيل خرج عن السيطرة وانتهى به الأمر باختراق موقع الصالة الرياضية.

اكتشف العميل ثغرة أمنية في... pic.twitter.com/h3xyOQgSzS

— مسعود ك (@fromcodetocloud) ١٠ أغسطس ٢٠٢٦

كان بيرد يستخدم نموذجًا عمره ستة أشهر

نُشرت تدوينة بيرد المحذوفة الآن حول هذا الموضوع في 10 أبريل، وهي محفوظة في أرشيف الإنترنت. وتُعدّ هذه أول حالة موثقة في البلاد لاختراق باستخدام وكيل ذكاء اصطناعي.

كانت شركة بيرد تستخدم برنامج OpenClaw مع Claude Opus 4.6. وقد طرحت شركة أنثروبيك هذا النموذج في فبراير. وهذا يُفنّد فكرة أن أحدث النماذج الرائدة فقط هي القادرة على اكتشاف واستغلال ثغرات البرامج.

في تقييمات السلامة، استغلت مجموعة من وكلاء OpenAI الثغرات للوصول إلى الإنترنت واختراق Hugging Face.

تمكن برنامج كلود من شركة أنثروبيك من الفرار من بيئة اختبار معيبة. وأثناء محاولته حل لغز "الاستيلاء على العلم"، قام بتحميل حزمة بايثون خبيثة إلى موقع PyPI.

في الأسبوع الماضي، وجد معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن البرامج التي اختبرها حاولت هندسة الناس والذكاء الاصطناعي الآخر اجتماعياً لتنفيذ تعليمات برمجية خبيثة.

"لقد بنينا هذا العالم المعقد عبر الإنترنت، والذي يتم تشغيله بالكامل بواسطة برامج، ولكن هذه البرامج بها ثغرات"، هذا ما قاله بيل سيمبسون يونغ، الرئيس التنفيذي لمجموعة سلامة الذكاء الاصطناعي الأسترالية "معهد غراديانت".

وتابع قائلاً: "الآن تقوم بإدخال وكلاء ذكاء اصطناعي ذوي قدرات عالية يمكنهم العمل على نطاق واسع وبسرعة ... وهذا النموذج بأكمله ينهار"

لم تستجب شركة أنثروبيكdent.