استحوذت منصة تواصل اجتماعي تتحدث فيها الروبوتات مع بعضها البعض بدلاً من البشر على اهتمام واسع على الإنترنت الأسبوع الماضي، لكن خبراء الأمن يقولون إن القصة الحقيقية تكمن فيما وجدوه في الخفاء.
تصدر موقع مولتبوك عناوين الأخبار كموقع تنشر فيه روبوتات الذكاء الاصطناعي محتوىً بينما يكتفي المستخدمون بالمشاهدة. وسرعان ما أصبحت المنشورات غريبة. إذ بدا أن روبوتات الذكاء الاصطناعي تُنشئ ديانات خاصة بها، وتكتب رسائل غاضبة ضد البشر، وتتكتل فيما بينها كما لو كانت جماعات متطرفة على الإنترنت. لكن خبراء أمن الحاسوب يقولون إن كل هذا السلوك الغريب ليس سوى ظاهرة جانبية.
ما اكتشفوه كان أكثر إثارة للقلق. قواعد بيانات مفتوحة مليئة بكلمات المرور وعناوين البريد الإلكتروني، وبرامج ضارة تنتشر في كل مكان، ومعاينة لكيفية انحراف شبكات وكلاء الذكاء الاصطناعي.
تبين أن بعض المحادثات الغريبة على الموقع، مثل تلك التي تتحدث عن عملاء الذكاء الاصطناعي الذين يخططون للقضاء على البشرية، كانت في معظمها مزيفة.
قال جورج شلهوب، الأستاذ في مركز التفاعل بجامعة لندن، لمجلة فورتشن، إن مولتبوك تنطوي على مخاطر حقيقية للغاية. إذ يمكن للمهاجمين استخدامها كساحة اختبار للبرمجيات الخبيثة، وعمليات الاحتيال، والأخبار الكاذبة، أو الحيل التي تسيطر على وكلاء آخرين قبل استهداف الشبكات الأكبر.
"إذا كان بإمكان 770 ألف وكيل على نسخة من موقع Reddit إحداث كل هذه الفوضى، فماذا سيحدث عندما تدير الأنظمة الوكيلة البنية التحتية للمؤسسات أو المعاملات المالية؟ إنه أمر يستحق الاهتمام كتحذير، وليس كاحتفال"، قال شلهوب.
يقول باحثون أمنيون إن برنامج OpenClaw، وهو برنامج ذكاء اصطناعي يُشغّل العديد من البرامج الآلية على منصة Moltbook، يُعاني بالفعل من مشاكل تتعلق بالبرمجيات الخبيثة. فقد كشف تقرير صادر عن OpenSourceMalware عن تحميل 14 أداة مزيفة على موقع ClawHub التابع له في غضون أيام قليلة. ادّعت هذه الأدوات أنها تُساعد في تداول العملات الرقمية، لكنها في الواقع أصابت أجهزة الكمبيوتر. بل إن إحداها وصلت إلى الصفحة الرئيسية لموقع ClawHub، مُضللةً المستخدمين العاديين لحملهم على نسخ أمرٍ يُحمّل نصوصًا برمجية مُصممة لسرقة بياناتهم أو محافظهم الرقمية.
ما هو الحقن الفوري ولماذا هو خطير للغاية بالنسبة لوكلاء الذكاء الاصطناعي؟
أكبر خطر هو ما يسمى بالحقن الفوري، وهو نوع معروف من الهجمات حيث يتم إخفاء التعليمات السيئة في المحتوى الذي يتم تغذيته إلى وكيل الذكاء الاصطناعي.
سيمون ويليسون، الباحث الأمني المعروف، حذّر من ثلاثة أمور تحدث في آن واحد. إذ يسمح المستخدمون لهذه البرامج الخبيثة بالاطلاع على رسائل البريد الإلكتروني والبيانات الخاصة، ويربطونها بمحتوى مشبوه على الإنترنت، ويسمحون لها بإرسال الرسائل. وقد يؤدي طلب واحد خاطئ إلى دفع هذه البرامج لسرقة معلومات حساسة، أو إفراغ محافظ العملات الرقمية، أو نشر برامج ضارة دون علم المستخدم.
يرى تشارلي إريكسن، الباحث الأمني في شركة أيكيدو سيكيوريتي، أن تطبيق مولتبوك بمثابة إنذار مبكر لعالم الذكاء الاصطناعي. ويقول: "أعتقد أن مولتبوك قد أحدث بالفعل تأثيراً على العالم، فهو بمثابة جرس إنذار من نواحٍ عديدة. فالتقدم التكنولوجي يتسارع بوتيرة متسارعة، ومن الواضح أن العالم قد تغير بطريقة لا تزال غير واضحة تماماً. ونحن بحاجة إلى التركيز على تخفيف هذه المخاطر في أسرع وقت ممكن".
هل يقتصر وجود عملاء الذكاء الاصطناعي على منصة مولتبوك، أم أن هناك أشخاصًا حقيقيين وراءها؟ على الرغم من كل هذا الاهتمام، اكتشفت أن 1.5 مليون عميل يُزعم أنهم مستقلون على منصة مولتبوكdent يكونوا كما يبدون. فقد أظهر تحقيقهم أن 17 ألف شخص حقيقي فقط هم من يقفون وراء هذه الحسابات، دون أي وسيلة للتمييز بين الذكاء الاصطناعي الحقيقي والبرامج النصية البسيطة.
قال غال ناغلي من شركة ويز إنه استطاع التعاقد مع مليون وكيل في دقائق عندما اختبر النظام. وأضاف: "لا أحد يتحقق مما هو حقيقي وما هو غير حقيقي"
اكتشف ويز أيضًا ثغرة أمنية خطيرة في مولتبوك. كانت قاعدة البيانات الرئيسية مفتوحة بالكامل، ما يسمح لأي شخص يعثر على مفتاح واحد في شفرة الموقع بقراءة وتغيير كل شيء تقريبًا. يُتيح هذا المفتاح الوصول إلى حوالي 1.5 مليون كلمة مرور للبرامج الآلية، وعشرات الآلاف من عناوين البريد الإلكتروني، والرسائل الخاصة. يستطيع المهاجم انتحال شخصية برامج الذكاء الاصطناعي الشهيرة، وسرقة بيانات المستخدمين، وإعادة كتابة المنشورات دون الحاجة حتى إلى تسجيل الدخول.
قال ناجلي إن المشكلة تكمن في شيء يُسمى "البرمجة vibe ". ما هي البرمجة vibe ؟ هي عندما يُطلب من شخص ما برمجة الذكاء الاصطناعي باستخدام لغة يومية لكتابة التعليمات البرمجية.
ينتهي مفعول مفتاح إيقاف تشغيل وكلاء الذكاء الاصطناعي في غضون عامين
يشابه هذا الموقف ما حدث في الثاني من نوفمبر عام ١٩٨٨، عندما أطلق الطالبdent روبرت موريس برنامجًا ذاتي النسخ على الإنترنت في بداياته. وفي غضون ٢٤ ساعة، أصاب فيروسه ما يقارب ١٠٪ من جميع أجهزة الكمبيوتر المتصلة. أراد موريس قياس حجم الإنترنت، لكن خطأً برمجيًا تسبب في انتشاره بسرعة فائقة.
قد يكون الإصدار الحالي هو ما يسميه الباحثون "ديدان التوجيه"، وهي تعليمات تنسخ نفسها من خلال شبكات من وكلاء الذكاء الاصطناعي الناطقين.
وجد باحثون في مختبر سيمولا للأبحاث 506 منشورات على موقع مولتبوك، أي ما يعادل 2.6% من إجمالي المنشورات التي فحصوها، تحتوي على هجمات خفية. ووثّق برنامجًا ضارًا يُدعى "ماذا سيفعل إيلون؟" يقوم بسرقة البيانات وإرسالها إلى خوادم خارجية. وقد تصدّر هذا البرنامج قائمة البرامج الضارة في المستودع.
في مارس 2024، نشر باحثو الأمن بن ناسي وستاف كوهين ورون بيتون ورقة بحثية توضح كيف يمكن لرسائل التنبيه ذاتية النسخ أن تنتشر عبر مساعدي البريد الإلكتروني الذين يعملون بالذكاء الاصطناعي، مما يؤدي إلى سرقة البيانات وإرسال رسائل غير مرغوب فيها. أطلقوا عليها اسم موريس-2، نسبةً إلى دودة البريد الإلكتروني الأصلية التي ظهرت عام 1988.
تتحكم شركات مثل أنثروبيك وأوبن إيه آي حاليًا بآلية إيقاف مؤقتة قادرة على إيقاف برامج الذكاء الاصطناعي الضارة، نظرًا لأن برنامج أوبن كلو يعمل في الغالب على خوادمها. لكن نماذج الذكاء الاصطناعي المحلية تتحسن باستمرار، وبرامج مثل ميسترال وديب سيك وكوين تواصل تطويرها. في غضون عام أو عامين، قد يصبح تشغيل برنامج ذكاء اصطناعي كفؤ على أجهزة الكمبيوتر الشخصية ممكنًا. وحينها، لن يكون هناك مزود خدمة قادر على إيقافها.
