OpenAI تحذر من أن نماذج الذكاء الاصطناعي من الجيل التالي قد تصبح أدوات للقراصنة
- تحذر OpenAI من أن نماذج الذكاء الاصطناعي القادمة قد تصل إلى مستويات "عالية" من مخاطر الأمن السيبراني، مما قد يؤدي إلى استغلال ثغرات يوم الصفر أو المساعدة في شن هجمات متطورة على الأنظمة الحيوية.
- قفزت النتائج في تحديات الأمن بنسبة 27% إلى 76% خلال ثلاثة أشهر فقط، ما يُظهر تقدماً سريعاً في القدرات.
- تطلق الشركة برامج دفاعية تشمل الوصول الموثوق لفريق الأمن، وأداة فحص الثغرات Aardvark، ومجلس جديد للمخاطر الحدودية.
أصدرت الشركة وراء ChatGPT تحذيراً صارماً يوم الأربعاء حول الأخطار المحتملة الكامنة في موجتها التالية من أنظمة الذكاء الاصطناعي، قائلة إنها قد تشكل تهديدات أمنية سيبرانية خطيرة.
أعلنت OpenAI أن نماذج الذكاء الاصطناعي المستقبلية لديها قد تكون قادرة على إنشاء استغلاالات ثغرة اليوم صفر وظيفية تستهدف أنظمة الكمبيوتر المحمية بشدة. يمكن أن تساعد التكنولوجيا أيضاً في تنفيذ هجمات متطورة على الشركات أو المرافق الصناعية مصممة لإلحاق ضرر حقيقي بالعالم المادي.
الأشياء تتحرك بسرعة. في مدونتها، ذكرت OpenAI أن الأداء في تحديات أمن التقاط العلم قفز من 27% على GPT-5 في أغسطس 2025 إلى 76% على GPT-5.1-Codex-Max بعد ثلاثة أشهر فقط في نوفمبر 2025.
تفترض OpenAI الآن أن كل نموذج جديد تبنيه قد يصل إلى ما تسميه مستويات "عالية" من القدرة الأمنية السيبرانية. وهذا يعني أنظمة يمكنها إنشاء استغلاالات تعمل لثغرات غير معروفة سابقاً في الشبكات المحمية جيداً، أو المساعدة في حملات الاختراق المعقدة التي تستهدف البنية التحتية الحيوية.
قالت الشركة المدعومة من Microsoft إنها تستثمر في جعل نماذجها أفضل في العمل الدفاعي الأمني. تقوم الشركة ببناء أدوات لمساعدة فرق الأمن على فحص الشفرة بحثاً عن المشكلات وإصلاح ثغرات الأمان. تريد OpenAI منح المدافعين ميزة لأنهم عادة ما يكونون أقل عدداً ومحدودي الموارد.
هنا يصبح الأمر معقداً. يستخدم العمل الأمني السيبراني الدفاعي والهجوم نفس المعرفة والأساليب الأساسية. ما يساعد المدافعين يمكن أن يساعد المهاجمين بنفس السهولة. تقول OpenAI إنها لا يمكن أن تعتمد على إجراء وقائي واحد. تحتاج إلى طبقات من ضوابط الأمان تعمل معاً.
تستخدم الشركة قيود الوصول، وأمان البنية التحتية الأقوى، وضوابط تدفق المعلومات، والمراقبة المستمرة. وهي أيضاً تدرب النماذج على رفض الطلبات التي يمكن أن تتيح الهجمات السيبرانية مع الحفاظ على فائدتها لأعمال الأمن المشروعة والتعليم.
تراقب أنظمة الكشف عن النشاط المشبوه عبر المنتجات باستخدام نماذج متقدمة. عندما يبدو شيء ما خطيراً، يحجب النظام النتائج، أو يتحول إلى نموذج أضعف، أو يحدد الأمر للمراجعة البشرية.
اختبار الحدود
تعمل OpenAI مع مجموعات اختبار أمنية متخصصة تحاول اختراق جميع دفاعاتها. تحاكي كيفية عمل مهاجم مصمم لديه موارد جادة. يساعد هذا في العثور على نقاط الضعف قبل أن تفعل التهديدات الحقيقية.
مخاطر الأمن السيبراني من الذكاء الاصطناعي تقلق الناس عبر الصناعة. كما أفادت Cryptopolitan سابقاً، يستخدم القراصنة بالفعل تقنيات الذكاء الاصطناعي لتحسين هجماتهم.
تخطط الشركة لبرنامج يمنح المستخدمين المؤهلين العاملين على الدفاع الأمني السيبراني وصولاً خاصاً إلى القدرات المحسنة في أحدث نماذجها. لا تزال OpenAI تعمل على تحديد الميزات التي يمكن أن تكون متاحة على نطاق واسع والتي تحتاج إلى قيود أكثر صرامة.
ثم هناك Aardvark. يساعد هذا الأداة الأمنية في الاختبار الخاص المطورين وفرق الأمن على العثور على نقاط الضلاع وإصلاحها على نطاق واسع. تفحص الشفرة بحثاً عن نقاط ضعف وتقترح إصلاحات. اكتشف النظام بالفعل نقاط ضعف جديدة في البرمجيات مفتوحة المصدر. تخطط OpenAI لوضع موارد كبيرة في تعزيز نظام الأمن الأوسع. ويشمل ذلك تقديم تغطية مجانية لبعض مشاريع البرمجيات مفتوحة المصدر غير التجارية.
ستقوم OpenAI بإنشاء مجلس مخاطر الحدود. يجمع هذا بين مدافعين وممارسين ذوي خبرة في الأمن السيبراني. يبدأ المجلس بالأمن السيبراني لكنه سيتوسع إلى مجالات أخرى. يساعد أعضاء المجلس في تحديد الحدود بين القدرات المفيدة والإساءة المحتملة.
الأمان يبقى تحدياً
تعمل الشركة مع شركات الذكاء الاصطناعي الرائدة الأخرى من خلال منتدى النماذج الحدودية. تطور هذه المنظمة غير الربحية فهماً مشتركاً للتهديدات وأفضل الممارسات. تعتقد OpenAI أن مخاطر الأمان من الذكاء الاصطناعي المتقدم قد تأتي من أي نظام ذكاء اصطناعي رئيسي في الصناعة.
أظهرت أبحاث حديثة أن وكلاء الذكاء الاصطناعي يمكنهم اكتشاف ثغرات ثغرة اليوم صفر تستحق ملايين الدولارات في عقود الذكاء الاصطناعي في البلوكشين. هذا يسلط الضوء على كيف أن هذه القدرات المتقدمة تقطع الطريق بطريقتين.
عملت OpenAI على تعزيز تدابير الأمان الخاصة بها، لكن الشركة واجهت مشاكلها الخاصة. تعاملت الشركة مع عدة خروقات أمنية في الماضي. هذا يظهر مدى صعوبة حماية أنظمة الذكاء الاصطناعي والبنية التحتية.
تقول الشركة إن هذا عمل مستمر. الهدف هو منح المدافعين مزايا وتعزيز أمان البنية التحتية الحيوية عبر نظام التكنولوجيا.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
نور بازمي
تُساهم نور بازمي في فريق أخبار Cryptopolitan وتتمتع بدرجة جامعية في الدراسات الإعلامية. تغطي نور أخبار البلوكشين والعملات المشفرة والذكاء الاصطناعي وشركات التكنولوجيا الكبرى وأسواق السيارات الكهربائية والاقتصاد العالمي وتحولات السياسات الحكومية. وهي حاليًا تدرس التسويق للتواصل مع الجماهير العالمية.
