تتخذ شركتا الذكاء الاصطناعي "أنثروبيك" و"أوبن إيه آي" خطوات جادة لمعالجة المخاطر المتزايدة المرتبطة بمنتجاتهما. فقد أصدرت شركة ألتمان نماذج مخصصة للخبراء للمساعدة في حماية الأنظمة المعرضة للخطر، بينما تشترط "أنثروبيك" الآن التحقق من الهوية قبل أن يتمكن المستخدمون من الوصول إلى بعض الوظائف.
عندما تم طرح نماذج الذكاء الاصطناعي للجمهور في البداية، تم استخدامها لتحويل النصوص إلى فن على غرار أفلام جيبلي وكتابة قوائم التسوق، لكن الذكاء الاصطناعي سرعان ما أصبح مصدر قلق للأمن القومي.
لماذا تطلب شركة أنثروبيك رخصة القيادة الخاصة بي؟
يستخدم المخترقون بالفعل الذكاء الاصطناعي لتجاوز أنظمة الحماية، مما أجبر شركة أنثروبيك على تطبيق عملية إلزامية dent . يحتاج المستخدمون الآن إلى بطاقة هوية حكومية فعلية (جواز سفر أو رخصة قيادة) وصورة شخصية مباشرة لاستخدام وظائف محددة.
تتولى شركة Persona، الشريكة لهم، إدارة البيانات. وقد أوضحت أنها لن تستخدم بيانات هوية المستخدمين dent نماذج الذكاء الاصطناعي الخاصة بها. كما أوضحت الشركة أن التحقق ضروري "لمنع إساءة الاستخدام، وإنفاذ سياسات الاستخدام الخاصة بنا، والامتثال للالتزامات القانونية".
إذا فشل المستخدم في الاختبار أو حاول استخدام النظام من موقع غير مدعوم، فقد يتم حظر حسابه.
يعود هذا الإجراء القمعي المفاجئ إلى اعتراف شركة أنثروبيك بأن نموذجها الجديد، كلود ميثوس بريفيو، جيد بشكل مرعب في القرصنة.
في منشور مدونة صدر بالتزامن مع أخبار التحقق، ذكرت الشركة أن برنامج Mythos Preview "قادر على dent ثم استغلال الثغرات الأمنية غير المعروفة في كل نظام تشغيل رئيسي وكل متصفح ويب رئيسي عند توجيه المستخدم للقيام بذلك".
طلب مهندسون في شركة أنثروبيك، يفتقرون إلى أي تدريب أمني رسمي، من شركة ميثوس اكتشاف ثغرات أمنية تسمح بتنفيذ التعليمات البرمجية عن بُعد خلال ليلة واحدة. ووفقًا للشركة، فقد "استيقظوا في صباح اليوم التالي ليجدوا ثغرة أمنية كاملة وجاهزة للاستخدام"
هل نماذج الذكاء الاصطناعي الجديدة خطيرة بالفعل؟
معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) تقييمًا يؤكد أن برنامج Mythos يمثل "خطوة للأمام" في القدرات السيبرانية.
يُقدّم منشور المدونة الداخلية لشركة أنثروبيك تفاصيل مثيرة للقلق حول قدرات النموذج. فبعد تلقّيه الإشارة الأولية، اكتشف ميثوس ثغرة أمنية عمرها 27 عامًا في نظام التشغيل أوبن بي إس دي، المعروف بأمانه العالي.
اكتشف فريق ميثوس أيضًا ثغرة أمنية عمرها 16 عامًا في برنامج FFmpeg، وهو أداة فيديو تستخدمها جميع الخدمات الرئيسية تقريبًا. وقد خضعت هذه الأداة لاختبارات مكثفة باستخدام ملايين المدخلات العشوائية بتقنية تُعرف باسم "الاختبار العشوائي"، ومع ذلك، وجد فريق ميثوس ثغرة أمنية في برنامج ترميز H.264 تعود إلى تحديث برمجي عام 2003.
إلى جانب ذلك، اكتشف ميثوس ثغرة أمنية عمرها 17 عامًا في خادم NFS الخاص بنظام FreeBSD، وكتب برنامجًا استغلاليًا يسمح لأي مستخدم غير مصادق عليه على الإنترنت بالحصول على وصول كامل إلى الخادم.
أكدت الشركة أن برنامج Mythos Preview "dentهذه الثغرة الأمنية واستغلها بشكل كامل وتلقائي". وقد كلفت العملية بأكملها أقل من 2000 دولار أمريكي وفقًا لأسعار واجهة برمجة التطبيقات، واستغرقت أقل من يوم واحد.
اكتشف فريق ميثوس ثغرات أمنية في جميع متصفحات الويب الرئيسية. وفي إحدى الحالات، قام الفريق بكتابة برنامج استغلال للمتصفح يجمع بين أربع ثغرات أمنية، بما في ذلك استغلال ثغرة في ذاكرة التخزين المؤقت (JIT heap spray)، للتحايل على كل من بيئة الحماية الخاصة بالمتصفح وبيئة الحماية الخاصة بنظام التشغيل.
عثرت شركة أنثروبيك على "آلاف الثغرات الأمنية الإضافية عالية الخطورة والحرجة" في برامج مفتوحة المصدر ومغلقة المصدر. ولم يتم إصلاح أكثر من 99% من هذه الثغرات حتى الآن.
نهج OpenAI في التعامل مع المخاطر الأمنية
على الرغم من هذه المشاكل، OpenAI عن إصدار GPT-5.4-Cyber ، والذي، على عكس النماذج القياسية التي ترفض المساعدة في القرصنة لأسباب تتعلق بالسلامة، "يخفض حد الرفض لأعمال الأمن السيبراني المشروعة".
يستطيع برنامج GPT-5.4-Cyber تحليل البرامج المُجمّعة دون الحاجة إلى الوصول إلى شفرتها المصدرية للكشف عن البرامج الضارة والثغرات الأمنية، إلا أن الوصول إليه يقتصر على برنامج "الوصول الموثوق للأمن السيبراني" (TAC) التابع لشركة OpenAI. ولا يُسمح باستخدامه إلا لخبراء الأمن السيبراني والباحثين والمنظمات المعتمدة التي تتولى حماية الأنظمة الحيوية.
كما يمنح مشروع Glasswing التابع لشركة Anthropic وصولاً محدوداً للمدافعين في شركات مثل Amazon ($AMZN) و Apple ($AAPL) و Google ($GOOGL) لإصلاح البنية التحتية الحيوية قبل أن يتمكن المهاجمون من استغلالها.
في هذه الأثناء، تقترح شركة أنثروبيك تثبيت التحديثات الأمنية على الفور، بدلاً من تثبيتها وفقًا لجدول زمني شهري.
