أدوات الأمن المدعومة بالذكاء الاصطناعي وتحدي DARPA الجديد للمطورين مفتحي المصدر

كان الذكاء الاصطناعي (AI)، ولا سيما نماذج اللغات الكبيرة (LLMs) مثل GPT، محور المناقشات في مؤتمري Black Hat وDef Con الأخيرين في لاس فيغاس. ومع ذلك، فإن الخبراء منقسمون حول كيفية تأثير الذكاء الاصطناعي على الوضع الأمني للشركات، بدءًا من حماية البيانات الداخلية وحتى تطوير التطبيقات.

قامت ماريا ماركدتر، مهندسة عكسية وخبرة استغلال في شركة Arm، بترجمة بيان سام ألتمان، الرئيس التنفيذي لشركة OpenAI، القائل إن "الذكاء الاصطناعي سيؤدي على الأرجح إلى نهاية العالم، ولكن في هذه الأثناء، ستكون هناك شركات عظيمة." خلال كلمتها الرئيسية في مؤتمر Black Hat، أوصت ماركدتر بشعار "تحرك بسرعة، وأتلف الأشياء"، مشددة على أن المنتجات غالبًا ما تفتقر في البداية إلى وظائف الأمان، واضطرار الشركات للاستثمار في الأمان.

الذكاء الاصطناعي التوليدي والذكاء الاصطناعي متعدد الوسائط

الذكاء الاصطناعي التوليدي، الذي يركز حاليًا على النصوص، يتطور ليصبح ذكاءً اصطناعيًا متعدد الوسائط، قادرًا على التعامل مع الدردشة، وردود الفيديو المباشرة، وتحليل المشاعر، وحتى تفسير لغة الجسد، وفقًا لماركدتر. وشددت على أهمية الحفاظ على الخصوصية في هذه الأنظمة وإعادة التفكير في أمن البيانات.

التأثير على الأمن

لا يزال تأثير الذكاء الاصطناعي على الأمن غير مؤكد. أشارت ماركدتر إلى أن الذكاء الاصطناعي يؤثر بالفعل على أمن البيانات، كما يتضح من قيام الموظفين بنسخ البيانات إلى روبوتات محادثة ذكاء اصطناعي ذات صندوق أسود. ومع ذلك، تظل الآثار الأوسع على الأمن غير واضحة. يمكن لنماذج اللغات الكبيرة (LLMs) توليد كود ضار، لكنها لا تستطيع تنفيذه، وفقًا لموظفين سابقين في OpenAI ناقشوا الاستخدام المحتمل للذكاء الاصطناعي في الأمن.

على الرغم من عدم اليقين، كان هناك إجماع على أن حظر الذكاء الاصطناعي ليس حلاً طويل الأمد. تتطلع الشركات بشغف لتبني تقنيات الذكاء الاصطناعي، وسيحتاج أمن الذكاء الاصطناعي في النهاية إلى تبني نماذج اللغات الكبيرة (LLMs) وتقنيات الذكاء الاصطناعي الأخرى. حذر خبراء الأمن من أن من لا يفعلون ذلك سيتخلفون عن الركب.

تبني الذكاء الاصطناعي في الأمن

جادلت ماركدتر بأن دمج الوكلاء المستقلين ينطوي على مخاطر، لكنه أمر ضروري لقبول واقعهم وتطوير حلول لجعلهم أكثر أمانًا. وقالت: "هذه فرصتنا لإعادة اختراع أنفسنا [و] وضعنا الأمني"، داعية المجتمع إلى التجمع وتعزيز البحث.

تحدي DARPA للذكاء الاصطناعي السيبراني

حدت منظمة الدفاع DARPA تحديًا لحضور مؤتمري Black Hat وDef Con للمساعدة في إنشاء نظام أمني استجابي قائم على الجيل الجديد من الذكاء الاصطناعي. أعلن بيرى آدامز، مدير البرامج في مكتب ابتكار المعلومات في DARPA، عن تحدي الذكاء الاصطناعي السيبراني (AIxCC) لمدة عامين في الحدث الرئيسي لمؤتمر Black Hat.

يهدف AIxCC إلى تطوير جيل جديد من أدوات الأمن السيبراني، ويوفر ما مجموعه 20 مليون دولار من الجوائز للفرق التي تخلق أفضل الأنظمة. يتكون المسابقة من مسارين: المسار الممول والمسار المفتوح. سيتم اختيار منافسي المسار الممول من المقترحات المقدمة إلى طلب بحث مبتكر للأعمال الصغيرة، مع حصول ما يصل إلى سبع شركات صغيرة على تمويل يصل إلى مليون دولار. يمكن لمنافسي المسار المفتوح التسجيل عبر موقع الويب الخاص بالمسابقة دون تمويل من DARPA.

في عام 2024، سيحدد مؤتمر DefCon أفضل خمس شركات، اللواتي سيتقدمن إلى جولة ثانية من التجارب مع تمويل إضافي بقيمة 2 مليون دولار. سيحصل الفائزون في مؤتمر Def Con لعام 2025 على 4 ملايين دولار للمركز الأول، و3 ملايين دولار للمركز الثاني، و1.5 مليون دولار للمركز الثالث.

التعاون مع شركات الذكاء الاصطناعي الرائدة

يتعاون AIxCC مع شركات الذكاء الاصطناعي الرائدة، بما في ذلك Anthropic وGoogle وMicrosoft وOpenAI. ستعمل مؤسسة أمن مفتوح المصدر (OpenSSF)، وهي مشروع تابع لمؤسسة Linux، كمستشار للتحدي لتوجيه الفرق في إنشاء أنظمة ذكاء اصطناعي قادرة على معالجة قضايا الأمن السيبراني الحيوية، مثل أمن البنية التحتية الحيوية للبلاد وسلاسل توريد البرمجيات.

ستقام مسابقات AIxCC في مؤتمر DEF CON وستتكون من مرحلتين: مرحلة نصف النهائي ومرحلة النهائي. ستقام كلتا المسابقتين في مؤتمر DEF CON في لاس فيغاس في عامي 2024 و2025.