توضح شركة أنثروبيك أسباب اختراقات الإنترنت التي تعرضت لها أنظمة الذكاء الاصطناعي الخاصة بها، لكنها لا تستطيع تحديد العيوب بدقة
تصوير سولين فييسا على Unsplash.
- أوضحت شركة أنثروبيك أن خطأ في التكوين سمح لأربعة نماذج من كلود بالوصول إلى الإنترنت المباشر واختراق أنظمة حقيقية أثناء اختبارات الأمن السيبراني.
- وقالت الشركة إنها لا تزال غير قادرة على تحديد السبب الجذري لهذا السلوك، وأن عمليات الفحص قبل الإصدار لم تكتشف المشكلة.
- يدق جرس الإنذار الأمني بينما تتجه شركة أنثروبيك نحو طرح عام أولي بقيمة تقارب 2 تريليون دولار.
عزت شركة أنثروبيك السبب إلى خلل في إعدادات نماذجها "كلود" في منشور على مدونتها، موضحةًdentالأربع التي تمكنت فيها هذه النماذج من اختراق أنظمة جهات خارجية بعد اختراقها للإنترنت أثناء الاختبار. مع ذلك، لم يُقدم التقييم تفسيراً لأسباب استمرار هذه النماذج في الهجمات، واعترفت الشركة بأنها لا تملك إجابات شافية حتى الآن.
وقد قدم هذا الاعتراف من قبل شركة أنثروبيك نقاطاً جديدة للمتشائمين بشأن الذكاء الاصطناعي الذين كانوا يتساءلون عن مدى سيطرة مختبرات الذكاء الاصطناعي فعلياً على النماذج التي يطرحونها للجمهور، بل وأكثر من ذلك، على الأنظمة الأكثر قوة التي يستخدمونها داخلياً.
كيف تمكنت نماذج الذكاء الاصطناعي البشرية من اختراق الإنترنت؟
قدمت شركة أنثروبيك defiعن كيفية إفلات نماذجها من بيئة الاختبار الخاصة بها في منشور مدونة يوم الأربعاء أوضحت فيه أن شريكًا خارجيًا واحدًا كان مسؤولاً عن إجراء تقييمات الأمن السيبراني في جميع الحوادث الأربعةdent.
على ما يبدو، لم يتم قطع أجهزة الاختبار تمامًا عن الإنترنت بسبب خطأ في الإعداد، على الرغم من أن كلود قيل له إنها تعمل في محاكاة مغلقة بدون مسار إلى الإنترنت المفتوح.
أرجعت شركة Irregular، الشريك المُقيّم في تلك المحاكاة، الخطأ إلى خطأ في التسمية: إذ تصادف أن اسم شركة وهمية استُخدمت في تدريب على الاختراق يطابق اسم نطاق حقيقي. لذا، وبافتراض أن كل شيء في المحاكاة كان مشروعًا، تمكنت النماذج من اختراق مواقع الطرف الثالث الحقيقية باستخدام كلمات مرور ضعيفة ونقاط نهاية مكشوفة.
عن أحدث الحوادث الأربعةdentClaude Opus 4.6، على الرغم من وقوعها في يناير الماضي. وكانت شركة Anthropic قد الثلاثة الأخرىdentبرنامج المتعلقة ببرنامج Opus 4.7 وبرنامج Mythos 5 ونموذج بحث داخلي في يوليو.
أعلنت شركة أنثروبيك أنها لم تكتشفdent يناير إلا الشهر الماضي. وقد دفع هذا الاكتشاف إلى إجراء مسح أوسع شمل نحو 481 مليون نسخة من السجلات الطبية، والذي لم يسفر عن أي حالات جديدة أكثر خطورة مما كانت الشركة على علم به.
| نموذج | تاريخdent | تاريخ الإبلاغ | تفاصيل |
|---|---|---|---|
| كلود أوبوس 4.6 | يناير | سبتمبر | تم اكتشافه خلال عملية المسح التي أجريت في أغسطس |
| كلود أوبوس 4.7 | يوليو | يوليو | تم تغطية ذلك في الإفصاح الأولي لشهر يوليو |
| ميثوس 5 | يوليو | يوليو | أظهر تحيزاً ملحوظاً في التفكير |
| نموذج البحث الداخلي | يوليو | يوليو | تم تغطية ذلك في الإفصاح الأولي لشهر يوليو |
لا يستطيع علم الإنسان تفسير بعض سلوكيات نماذجه
كان تفسير كيفية تحرر النماذج على الإنترنت أمراً واحداً؛ لم يكن لدى أنثروبيك إجابات حول سبب تجاهل النماذج للعلامات التي تشير إلى وصولها إلى الإنترنت الحقيقي (التفكير المتحيز) وسبب تسببها في إتلاف المهام المنجزة (التهور).
لم يجد الباحثون في مجال علم الإنسان أي دليل عندما تعمقوا في التدريب الداخلي لفهم الأساس المنطقي للتحيز في التفكير. ولم تظهر أي مؤشرات تحذيرية في فحوصات ما قبل الإصدار التي أجراها مختبر الذكاء الاصطناعي، ولا حتى قبل إرسال النماذج للاختبار.
بحسب اعترافها الخاص، فإن رصد أسوأ السلوكيات قبل إطلاق النموذج "لا يزال يمثل تحدياً"
ومع ذلك، صرحت شركة أنثروبيك أنها ستقدم نسخًا من السجلات وتمنح موظفيها حق الوصول إلى منظمة METR البحثية غير الربحية، والتي ستبدأ الآن مراجعةdent لمدة ثمانية أسابيعdent.
توقيت سيئ مع اقتراب طرح عام أولي بقيمة تريليوني دولار
جاء هذا الكشف مصحوباً بمعارضة علنية داخل القطاع. فقد صرّح جاكوب كوكسون، الذي أمضى نحو ثلاث سنوات في أبحاث التدريب المسبق في شركتي OpenAI وAnthropic، في مؤتمر X يوم الأربعاء بأنه استقال لأن الشركتين لم "تتصرفا بمسؤولية"، محذراً من أنهما تتسابقان نحو تطوير ذكاء خارق ذاتي التحسين.
صرح الباحث في مجال السلامة البشرية إيفان هوبينجر بشكل منفصل لهيئة الإذاعة البريطانية (بي بي سي) بأنه وضع احتمالات أن "يقتل الذكاء الاصطناعي جميع البشر" في غضون عقد من الزمن فوق 10٪.
تُلقي هذه التحذيرات بظلالها الآن على طرح عام أولي ضخم. وذكر إنه "يجب تعليق طرح شركة أنثروبيك حتى يتم التحقيق في مزاعم هذا 'المُبلغ'" Cryptopolitan . أن ديفيد ساكس، المستثمر في رأس المال المخاطر والمسؤول السابق عن الذكاء الاصطناعي والعملات المشفرة في إدارة ترامب، قال يوم الخميس
تسعى شركة أنثروبيك إلى تحقيق تقييم عام يقارب 2 تريليون دولار، مقابل تقييم خاص حديث يبلغ حوالي 965 مليار دولار، مما يجعل من الصعب بشكل متزايد الفصل بين مسائل السلامة والمسائل المالية.
لا تكتفِ بقراءة أخبار العملات الرقمية، بل افهمها. اشترك في نشرتنا الإخبارية، إنها مجانية.
الأسئلة الشائعة
كم عددdentاختراق الذكاء الاصطناعي التي كشفت عنها شركة أنثروبيك، وما هي أسبابها؟
كشفت شركة أنثروبيك عن أربعdentتمكنت فيها نماذج كلود من الوصول إلى أنظمة حقيقية تابعة لجهات خارجية خلال تقييمات الأمن السيبراني. وقد نتجت جميعها عن خلل في الإعدادات أدى إلى ربط النماذج بالإنترنت المفتوح على الرغم من إخبارها بأنها في محاكاة غير متصلة بالإنترنت.
ما الذي قالت شركة أنثروبيك إنها لا تستطيع تفسيره؟
وقالت شركة أنثروبيك إنها لم تستطعdentسبب جذري واحد لـ "التفكير المتحيز" الذي أظهرته نماذجها، والذي تجاهلت فيه الأدلة على وجودها على الإنترنت الحقيقي، ولم تستطع تفسير سبب الأداء الضعيف بشكل خاص لـ Claude Mythos 5 في هذا المقياس.
لماذا يؤثر هذا على الاكتتاب العام المخطط له لشركة أنثروبيك؟
وجاء هذا الكشف في الوقت الذي استقال فيه الباحث جاكوب كوكسون بسبب مخاوف تتعلق بالسلامة، مما دفع المستثمر ديفيد ساكس إلى المطالبة يوم الخميس بتعليق الاكتتاب العام الأولي لشركة أنثروبيك حتى يتم التحقيق في مزاعم المبلغين عن المخالفات، بينما تسعى الشركة إلى تقييم يقارب 2 تريليون دولار.
هانا كوليمور
هانا كاتبة ومحررة تتمتع بخبرة تقارب عشر سنوات في كتابة المدونات وتغطية الأحداث في مجال العملات الرقمية. في Cryptopolitan، تُساهم هانا في صفحة الأخبار، حيث تُغطي وتُحلل آخر التطورات في DeFi، والأصول المُدارة بالمخاطر (RWA)، وتنظيم العملات الرقمية، والذكاء الاصطناعي، وقطاعات التكنولوجيا الرائدة. تخرجت هانا من جامعة أركاديا بشهادة في إدارة الأعمال.
