«أنثروبيك» تحذّر من إمكانية إعادة النماذج الصغيرة للذكاء الاصطناعي إنتاج نفسها على الأجهزة المنزلية

أفادت فرقة العمل المتقدمة (Frontier Red Team) التابعة لأنثروبيك بأن نماذج الذكاء الاصطناعي المدمجة قد تكون على بعد أشهر فقط من نسخ نفسها عبر أجهزة منزلية رخيصة ومتصلة بالإنترنت، دون الحاجة إلى مراكز بيانات. حذر الباحثون من أن هذا السيناريو سيكون صعب التحكم للغاية، حيث سيكون إيقاف هذه النماذج أمرًا بالغ الصعوبة نظرًا لعدم وجود جهة مركزية تتحكم فيها.

نُشر مقال البحث في 12 أكتوبر على موقع أنثروبيك، وهو مصدر قلق لأي شخص يستخدم أجهزة ذكية في المنزل أو في الأعمال الصغيرة.

خمسة عشر جهاز بث تلفزيوني رخيص، ونموذج واحد 26 مليار معلمة

عرض الباحثان ويليام تشو ودانيال فريمان المخاطر المحتملة من خلال ربط 15 جهاز بث أندرويد TV من علامات تجارية غير معروفة لتشغيل نموذج Gemma4-26B-A4B، الذي يحتوي على 26 مليار معلمة. كلف كل جهاز حوالي 55 دولارًا أمريكيًا، وكان مزودًا بذاكرة عشوائية سعتها 4 جيجابايت. قام الباحثون بتوزيع طبقات النموذج عبر الأجهزة باستخدام تقنية تُعرف بالتوازي التسلسلي (pipeline parallelism).

أنتج هذا المجموعة المكونة من 15 جهازاً مختلفاً من صناديق أندرويد ما مجموعه 0.39 رمزاً في الثانية فقط، مما يجعلها بطيئة جداً لأي استخدام عملي لروبوتات الدردشة. ومع ذلك، جادل الباحثون بأن دودة تنتشر ذاتياً لا تحتاج بالضرورة إلى العمل بسرعة عالية على جهاز واحد، بل ستستفيد في الواقع أكثر من الوصول إلى عدد كبير من الأجهزة.

وأشاروا أيضاً إلى كيمولف (Kimwolf)، وهو شبكة روبوتات أصابت أكثر من مليوني جهاز تلفزيون أندرويد من علامات تجارية غير معروفة بشكل أساسي، كمثال على كيفية وجود العديد من الأجهزة ضعيفة الأمان كطرائد سهلة في منازل الناس.

لم يتمكن أي من النماذج المختبرة من نسخ نفسها بشكل موثوق على جهاز آخر مع الحفاظ على حجمها صغيراً بما يكفي للعمل على تلفزيون ذكي. ويتوقع الباحثون أن يتقلص هذا الفجوة بحلول نهاية عام 2026 إذا استمرت النماذج المفتوحة خفيفة الوزن في التقدم بوتيرتها الحالية.

النسخ في أربع خطوات، ونموذج واحد نجح في ذلك

قسمت أنثروبيك عملية النسخ إلى أربع مراحل مختلفة. وتشمل هذه تحديد الأهداف، واكتساب القدرة على تنفيذ الأكواد، وتكوين الاستدلال، ثم تكرار العملية من كل جهاز مُصاب حديثاً.

تجاهل الباحثون إلى حد كبير الخطوات الأولية للاختراق، مشيرين إلى أعمال سابقة أظهرت أن النماذج الصغيرة يمكنها بالفعل تنفيذ عمليات اختراق سيبرانية. وبدلاً من ذلك، ركزوا على المرحلة الثالثة من تكوين الاستدلال، والتي تتضمن سلسلة طويلة من القرارات المحددة عتادياً.

للاختبار الشامل للعملية، أنشأ الباحثون شبكة معزولة مكونة من ثمانية عقد على Google Cloud، تعمل كل منها بمحاكي أندرويد. انتشر دودة مُحمّلة مسبقاً بين العقد عبر منفذ Android Debug Bridge غير الآمن قبل إنشاء خادم لتشغيل نموذج Llama3.1-8B. ومن بين النماذج مفتوحة المصدر التي تم اختبارها، كان فقط GLM-5.2، الذي طورته Z.ai في الصين، قادراً على إكمال دورة الاستنساخ الكاملة، حيث وصل إلى جميع العقد الثمانية في أربع من أصل خمس عمليات تشغيل.

ازدادت نجاح النماذج في إعداد نفسها كلما انتشرت عبر الأجيال. عندما نقلت نسخ من نموذج Qwen3.5-9B ذي الـ 9 مليارات معلمة ملاحظات الإعداد إلى أجيالها التالية، ارتفعت نسبة النجاح من 45% في الجيل الأول إلى ما بين 61% و84% في الأجيال اللاحقة.

Anthropic توضح سبب صعوبة القضاء على الدودة اللامركزية

السرعة الخام ليست الشاغل الرئيسي في هذا السيناريو، كما سعت أنثروبيك لتوضيح ذلك. تقدر أنثروبيك أن تكوين نموذج 26B عبر صناديق التلفاز سيستغرق من 71 إلى 150 ساعة. الخطر الأكبر يكمن في الاستمرارية، حيث لا يوجد خادم مركزي أو مشغل بشري لإيقافه، مما قد يتيح للنظام تجنب الطرق المعتادة للتحكم فيه وتعطيله.

قال رومان ف. يامبولسكي، الخبير في الذكاء الاصطناعي وأمن السيبرانات بجامعة لويفيل، إن هذه النتائج مهمة جداً. وأضاف أن الدودات المدعومة بالذكاء الاصطناعي يمكن أن تتجاوز البرمجيات الخبيثة التقليدية من خلال القدرة على التفكير في الأجهزة غير المألوفة، والتكيف عند فشل نهج معين، والاستمرار في الانتشار دون تدخل بشري.

وعلى الرغم من أنه لا يعتبرها تهديدًا وجوديًا اليوم، حذر من أن تطورها مثير للقلق.

كتب تشو وفريمان في مقال نشرته أنثروبيك: «قد تكون أجهزة إنترنت الأشياء المنزلية وأجهزة الأعمال الصغيرة هي الهدف الأول لهجمات من هذا النوع، لأنها متصلة بالإنترنت، ولديها تاريخيًا إجراءات أمنية محدودة للغاية».

لا يزال المدافعون يتمتعون بميزة

قارنت أنثروبيك الدفاع بعزل تفشي المرض، بهدف الحفاظ على متوسط عدد الإصابات الجديدة التي تسببها كل جهاز دون واحد. يمكن لمقدمي خدمات الإنترنت تحديد عمليات نقل النماذج غير المعتادة أو الاتصالات المستمرة بين الأجهزة، بينما يمكن استخدام الفخاخ الإلكترونية لالتقاط كود الديدان.

يشير التقرير إلى حظر المملكة المتحدة لكلمات المرور الافتراضية للأجهزة الذكية كطريقة جيدة لتقليل عدد الأجهزة الضعيفة المتاحة للمهاجمين.

كما ذكرت أنثروبيك أنها لم ترَ بعد مكرراً خائناً يعمل بشكل فعلي، ووصفت الأدلة الحالية بأنها مجرد "علامات حياة". نشرت الشركة البحث جنباً إلى جنب مع ادعاء منفصل بأن إجراءات أمان جديدة قللت من التخليص بنسبة تتراوح بين 90% و99%.