يتصرف وكيل الذكاء الاصطناعي في OpenClaw بشكل غير قانوني، ويرسل رسائل مزعجة للمستخدمين بعد منحهم حق الوصول إلى iMessage

بعد عاصفة ثلجية، حوصر كريس بويد في منزله بولاية كارولاينا الشمالية، فقرر تجربة أداة ذكاء اصطناعي تُدعى OpenClaw. ظنّ أنها ستساعده في تنظيم صباحه، فقام بضبطها لإرسال ملخص إخباري إلى بريده الإلكتروني في الساعة 5:30 صباحًا كل يوم. وقد نجحت هذه الخطوة. ثم سمح لها بالعمل على تطبيق iMessage.

بعد ذلك مباشرة، انهار كل شيء. بدأ تطبيق OpenClaw بإرسال الرسائل بشكل هستيري. أرسل أكثر من 500 رسالة إليه، وإلى زوجته، وحتى إلى أشخاص عشوائيين في قائمة جهات اتصالهم. لم يضحك بويد.

أغلقه، وغير الكود، وقال: "لم يكن به خلل. بل كان خطيراً"

يقول مهندس برمجيات إن شركة OpenClaw أرسلت مئات الرسائل المزعجة

وصف بويد البرنامج بأنه "غير مكتمل" وقال إنه يبدو وكأنه شيء تم تجميعه على عجل دون تفكير. قام بويد بتعديل الكود بنفسه لمنعه من إحداث المزيد من الضرر. ولم يكن الوحيد الذي أثار مخاوف بشأن هذه الأداة.

بدأ برنامج الذكاء الاصطناعي، الذي كان يُعرف سابقًا باسم "كلاودبوت" ثم "مولتبوت"، باكتساب شعبية في نوفمبر الماضي. كان بإمكانه القيام بمهام بسيطة مثل تنظيف صناديق البريد الإلكتروني، وحجز المطاعم، وتسجيل الوصول للرحلات الجوية. لم يكن يحتاج إلى تدخل بشري كبير، بل كان يعمل تلقائيًا. هذا ما جعله مثيرًا للاهتمام، وهذا أيضًا ما جعله خطيرًا.

يعمل كاسيمير شولز في شركة تُدعى هيدن لاير، وهي شركة متخصصة في أمن الذكاء الاصطناعي. وقال كاسيمير إن أوبن كلو مثالٌ مثالي لما يسميه "الثلاثية القاتلة"

يملك هذا النظام إمكانية الوصول إلى البيانات الخاصة، ويمكنه التواصل مع العالم الخارجي، كما يمكنه قراءة محتوى غير معروف. هذه هي الوصفة الكاملة لكارثة، وبرنامج OpenClaw يمتلكها جميعاً.

يو شياو، أستاذ علوم الحاسوب في جامعة ويليام وماري، قال إنه يمكن سرقة بيانات شخص ما عبر برنامج OpenClaw عن طريق خداعه بما يُعرف بحقن الأوامر. وتتمثل هذه التقنية في قيام المخترق بإخفاء أوامر داخل ما يبدو كرسالة عادية. وأضاف يو أن هذا النوع من التقنيات يفتح الباب أمام أنواع جديدة من الهجمات التي لا يستعد لها معظم الناس.

يُقرّ المُبتكر بأنّ OpenClaw ليس جاهزًا للاستخدام الشائع

قال بيتر شتاينبرغر، مبتكر OpenClaw، إن المشروع لم يكتمل بعد. وأوضح في رسالة بريد إلكتروني لوكالة بلومبيرغ: "لم يكتمل المشروع بعد، لكننا نقترب من ذلك"

قال بيتر إنه نظرًا لكونه مفتوح المصدر، يمكن لأي شخص الاطلاع على الكود والعمل عليه. وأضاف أن العمل جارٍ على قدم وساق، لكنه ليس جاهزًا للاستخدام اليومي بعد.

لم يعتقد بيتر أن الإصدار جاء مبكراً جداً. قال إنه يبني كل شيء بشفافية تامة ولا يؤمن بالتأجيل حتى يصبح المنتج مثالياً. وأضاف أن الكثير من المشاكل تنجم عن عدم قراءة المستخدمين لتعليمات الإعداد.

أوضح بيتر أنه لا يوجد شيء اسمه أمان بنسبة 100% عند استخدام نماذج لغوية ضخمة. وقال إن برنامج OpenClaw مُصمم للأشخاص الذين يعرفون ما يفعلونه ويدركون المخاطر.

وقال أيضاً إنّ مشكلة الحقن الفوري لا تقتصر على أداته فحسب، بل هي مشكلة منتشرة في جميع أنحاء عالم الذكاء الاصطناعي. وأضاف بيتر أنه استعان بخبير أمني للمساعدة في إصلاح هذه المشكلة وجعل OpenClaw أكثر أماناً.

يقول الخبراء إن وكلاء الذكاء الاصطناعي ينمون بوتيرة أسرع من قدرة الأمن على مواكبة ذلك

بينما يدافع بيتر عن الطريقة التي بنى بها OpenClaw، يقول خبراء آخرون إن التوجه العام نحو وكلاء الذكاء الاصطناعي بدأ يخرج عن السيطرة. يقول جاستن كابوس، خبير الأمن السيبراني وأستاذ في جامعة نيويورك، إنه من الصعب السيطرة على هذه الأدوات بمجرد تشغيلها.

قال جاستن: "لا نفهم لماذا يفعلون ما يفعلونه". وقارن منح وكيل الذكاء الاصطناعي إمكانية الوصول إلى نظامك بإعطاء طفل صغير سكين جزار.

يشهد عالم التكنولوجيا تسارعاً في إطلاق أدوات جديدة. فقد حقق برنامج Claude Code التابع لشركة Anthropic إيرادات بلغت مليار دولار في ستة أشهر فقط.

في غضون ذلك، لا يزال المسؤولون عن تأمين هذه الأدوات يحاولون فهم الأساسيات. قال جاستن إن الشركات تُصدر تحديثات باستمرار، ولا تستطيع فرق الأمن مواكبة ذلك.

قال مايكل فريمان، من شركة أرميس للأمن السيبراني، إن منصة أوبن كلو طُوّرت على عجل دون أي خطة أمنية حقيقية. وأضاف أن بعض عملاء أرميس قد تعرضوا بالفعل لاختراقات أمنية بسبب أوبن كلو، لكنه لم يُفصح عن التفاصيل. وأوضح مايكل أن الشركات ستضطر إلى التخلي عن بعض السيطرة إذا أرادت الاستمرار في استخدام أدوات الذكاء الاصطناعي مثل أوبن كلو.

يبقى السؤال المطروح الآن: هل سيستمر الناس في استخدام OpenClaw بعد هذه الكارثة؟ صحيح أن للأداة مُستخدمين مُعجبين، لكن حتى هؤلاء يُدركون أن الحرية بدون أمان تُشكّل مُشكلة. وما لم تُجرَ تغييرات سريعة، فقد تُصبح OpenClaw أحدث مثال على التكنولوجيا التي تجاوزت حدود إمكانياتها.