Anthropic تشرح اختراقات الذكاء الاصطناعي للإنترنت لكنها لا تستطيع تحديد الثغرات
صورة بواسطة سولين فييسا على أونسلاب.
- أوضحت أنثروبيك أن خطأً في التكوين سمح لأربعة نماذج من كلاود بالوصول إلى الإنترنت الحي واختراق أنظمة حقيقية خلال اختبارات الأمن السيبراني.
- قالت الشركة إنها لا تزال غير قادرة على تحديد السبب الجذري للسلوك، وأن فحوصات ما قبل الإصدار لم تكشف عن المشكلة.
- تنطلق إنذارات السلامة مع توجه أنثروبيك نحو طرح عام أولي يقارب قيمته 2 تريليون دولار.
نسبت شركة Anthropic الخطأ إلى خطأ في التكوين في منشور مدونة يشرح الحوادث الأربعة التي تم فيها اختراق نماذج Claude لأنظمة طرف ثالث بعد خروجها إلى الإنترنت أثناء الاختبار. ومع ذلك، لم يذهب التقييم إلى حد شرح سبب استمرار النماذج في شن الهجمات، مع اعتراف الشركة بأنها لا تملك هذه الإجابات بعد.
وقد قدم هذا الاعتراف من Anthropic نقاطًا جديدة لأصحاب التشاؤم بشأن الذكاء الاصطناعي الذين يتساءلون عن مدى التحكم الفعلي الذي تملكه مختبرات الذكاء الاصطناعي في النماذج التي تطرحها للجمهور، وأكثر من ذلك، في الأنظمة الأكثر قوة التي تستخدمها داخليًا.
كيف تمكنت نماذج Anthropic AI من الخروج إلى الإنترنت؟
قدمت Anthropic الإجابة الحاسمة حول كيفية هروب نماذجها من صندوق الاختبار الخاص بها في منشور مدونة يوم الأربعاء الذي أوضح أن شريكًا خارجيًا واحدًا كان مسؤولاً عن إجراء تقييمات الأمن السيبراني في جميع الحوادث المؤكدة الأربعة.
على ما يبدو، لم تكن آلات الاختبار مقطوعة تمامًا عن الإنترنت بسبب خطأ في الإعداد، على الرغم من أن Claude كان يُخبر بأنه يعمل في محاكاة مغلقة دون مسار إلى الويب المفتوح.
أرجع شريك التقييم في تلك المحاكيات، Irregular، الخطأ إلى خطأ في التسمية: فقد اتفقت شركة وهمية مستخدمة في تمرين اختراق مع نطاق حقيقي. لذا، وبافتراض أن كل شيء في المحاكاة متاح للاستهداف، قام النماذج باختراق المواقع الحقيقية لطرف ثالث باستخدام كلمات مرور ضعيفة ونقاط نهاية مكشوفة.
أحدث الحوادث الأربعة، والتي تضمنت إصدارًا مبكرًا من Claude Opus 4.6، لم يتم الإبلاغ عنها إلا هذا الأسبوع على الرغم من وقوعها منذ فترة طويلة في يناير. كانت Anthropic نفسها قد غطت الحوادث الثلاثة الأخرى التي تضمنت Opus 4.7 و Mythos 5 ونموذج بحث داخلي في يوليو.
قالت Anthropic إنها لم تكتشف حادث يناير إلا في الشهر الماضي. وقد أدى هذا الاكتشاف إلى مسح أوسع لحوالي 481 مليون سجل محادثة، لم يكشف عن أي حالات جديدة أكثر خطورة مما كانت تعرفه بالفعل.
| النموذج | تاريخ الحادث | تاريخ الإبلاغ | التفاصيل |
|---|---|---|---|
| Claude Opus 4.6 | يناير | سبتمبر | اكتُشف خلال مسح أغسطس |
| Claude Opus 4.7 | يوليو | يوليو | مغطى في الإفصاح الأولي في يوليو |
| Mythos 5 | يوليو | يوليو | أظهر تحيزًا في التفكير بشكل ملحوظ |
| نموذج بحث داخلي | يوليو | يوليو | مغطى في الإفصاح الأولي في يوليو |
Anthropic لا تستطيع تفسير بعض سلوكيات نماذجها
كان شرح كيفية خروج النماذج إلى الإنترنت أمرًا واحدًا؛ حيث لم تكن Anthropic تملك إجابات حول سبب تجاهل النماذج للإشارات التي تفيد بأنها وصلت إلى الإنترنت الحقيقي (التفكير المتحيز) ولماذا تسببت في أضرار لإكمال المهام (التهور).
لم ينجح باحثو Anthropic في العثور على تفسير عند تعمقهم في التدريب الداخلي لمعرفة المنطق وراء التفكير المتحيز. ولم تظهر علامات التحذير هذه أبدًا في فحوصات ما قبل الإصدار في مختبر الذكاء الاصطناعي، سواء قبل شحن النماذج إلى الاختبار.
وبحسب اعترافها، فإن التقاط أسوأ السلوكيات قبل إصدار النماذج "يظل أمرًا صعبًا".
ومع ذلك، قالت Anthropic إنها ستقدم السجلات المحكية ومنح الموظفين الوصول إلى منظمة METR البحثية غير الربحية، والتي ستبدأ الآن مراجعة مستقلة للحوادث لمدة ثمانية أسابيع.
توقيت سيئ مع طرح أولي عام (IPO) بقيمة 2 تريليون دولار على الأبواب
وصل الإفصاح وسط معارضة مفتوحة داخل الصناعة. قال جاكوب كوكسون، الذي قضى حوالي ثلاث سنوات في أبحاث التدريب المسبق في OpenAI و Anthropic، على منصة X يوم الأربعاء إنه استقال لأن كلا الشركتين لم "تتصرفا بمسؤولية"، محذرًا من أنهما تسابقان نحو تحقيق ذكاء فائق ذاتي التحسين.
باحث السلامة في Anthropic، إيفان هوبينغر، بشكل منفصل قال لـ BBC قدر احتمالات أن يؤدي الذكاء الاصطناعي إلى "قتل جميع البشر" خلال العقد القادم بأكثر من 10%.
هذه التحذيرات الآن تحيط بطرح أولي عام ضخم. المستثمر في رأس المال المخاطر ووزير الذكاء الاصطناعي والعملات المشفرة السابق لترامب، ديفيد ساكس، قال يوم الخميس أن عرض Anthropic "يجب إيقافه حتى يتم التحقيق في ادعاءات هذا 'المبلغ'"، وفقًا لما أوردته Cryptopolitan.
تسعى Anthropic للحصول على تقييم عام يقارب 2 تريليون دولار، مقابل علامة خاصة حديثة تبلغ حوالي 965 مليار دولار، مما يجعل أسئلة السلامة والأسئلة المالية يصعب فصلها بشكل متزايد.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
الأسئلة الشائعة
كم عدد حوادث الاختراق بالذكاء الاصطناعي التي كشفت عنها أنثروبيك، وما الذي تسبّب بها؟
كشفت أنثروبيك عن أربع حوادث وصل فيها نماذج كلاود إلى أنظمة طرف ثالث حقيقية أثناء تقييمات الأمن السيبراني. وجميعها نتجت عن خطأ في التكوين ربط النماذج بالإنترنت المفتوح رغم أنها أُخبرت بأنها تعمل في محاكاة غير متصلة بالشبكة.
ماذا قالت أنثروبيك إنها لا تستطيع تفسيره؟
قالت أنثروبيك إنها لم تستطع تحديد سبب جذري واحد لـ"الاستدلال المتحيز" الذي أظهرته نماذجها، حيث قلّلت من شأن الأدلة على أنها كانت على الإنترنت الحقيقي، كما لم تستطع تفسير سبب أداء كلاود ميثوس 5 بشكل سيئ بشكل خاص في هذا المقياس.
لماذا يؤثر ذلك على الطرح العام الأولي المخطط له لأنثروبيك؟
جاءت هذه الإفصاحات بعد استقالة الباحث جاكوب كوكسون بسبب مخاوف تتعلق بالسلامة، مما دفع المستثمر ديفيد ساكس إلى الدعوة يوم الخميس لإيقاف طرح أنثروبيك العام الأولي (IPO) حتى يتم التحقيق في ادعاءات المبلغين عن المخالفات، بينما تسعى الشركة لتقييم يقارب 2 تريليون دولار.
هانا كولي مور
هانا كاتبة ومحرّرة تمتلك خبرة تمتد لأكثر من عقد في كتابة المدونات وتغطية الفعاليات في مجال العملات الرقمية. في موقع كريبتوبوليتان، تساهم هانا في صفحة الأخبار من خلال تغطية وتحليل أحدث التطورات في مجالات التمويل اللامركزي (DeFi)، والأصول الواقعية (RWA)، وتنظيم العملات الرقمية، والذكاء الاصطناعي، وتقنيات الحدود الجديدة. تخرجت هانا من جامعة أركاديا بدرجة البكالوريوس في إدارة الأعمال.
