أطلقت شركة أنثروبيك برنامج مكافآت بقيمة 15 ألف دولار أمريكي لاكتشاف الثغرات الأمنية لتعزيز سلامة الذكاء الاصطناعي

أطلقت شركة أنثروبيك، وهي شركة ناشئة في مجال الذكاء الاصطناعي مدعومة من أمازون، برنامجًا لمكافآت اكتشاف الثغرات، حيث ستدفع ما يصل إلى 15,000 دولار أمريكي مقابل كل تقريرdentعن نقاط ضعف حرجة في أنظمة الذكاء الاصطناعي الخاصة بها. وتُعد هذه المبادرة من أوسع الجهود التي تبذلها أي شركة تعمل بنماذج لغوية متقدمة في مجال اختبار الأمان عبر التعهيد الجماعي.

بحسب الشركة، تستهدف المكافأة هجمات "الاختراق الشامل"، وهي أساليب قادرة على تجاوز إجراءات أمان الذكاء الاصطناعي في مجالات مثل الأسلحة البيولوجية والتهديدات الإلكترونية. وقبل إتاحة نظامها المتطور للتخفيف من المخاطر الأمنية للجمهور، تخطط شركة أنثروبيك للسماح لخبراء الأمن السيبراني باختباره لمنع أي إساءة استخدام محتملة.

نُوسّع برنامج مكافآت اكتشاف الثغرات الأمنية. تركز هذه المبادرة الجديدة على إيجاد ثغرات أمنية شاملة في نظام الأمان من الجيل التالي.

نقدم مكافآت لاكتشاف ثغرات جديدة في مجالات متنوعة، بما في ذلك الأمن السيبراني. https://t.co/OHNhrjUnwm

— أنثروبيك (@AnthropicAI) 8 أغسطس 2024

بدأ برنامج مكافآت اكتشاف الثغرات الأمنية التابع لشركة أنثروبيك كمبادرة حصرية بالدعوة فقط، بالتعاون مع هاكر وان، ويهدف إلى الاستفادة من مهارات باحثي الأمن السيبراني فيdentوإصلاح الثغرات الأمنية في أنظمة الذكاء الاصطناعي الخاصة بها. وتخطط الشركة لتوسيع نطاق البرنامج مستقبلاً، ما قد يُشكل نموذجاً للتعاون على مستوى القطاع في مجال أمن الذكاء الاصطناعي.

يأتي هذا في الوقت الذي تحقق فيه هيئة المنافسة والأسواق البريطانية (CMA) في استثمار أمازون البالغ 4 مليارات دولار في شركة أنثروبيك، وذلك بسبب مخاوف تتعلق بالمنافسة. وفي ظل هذا التدقيق التنظيمي المتزايد، قد يُسهم التركيز على السلامة في تعزيز سمعة أنثروبيك وتمييزها عن منافسيها.

تضع شركة أنثروبيك معايير جديدة لسلامة الذكاء الاصطناعي

على الرغم من وجود برامج مكافآت لاكتشاف الثغرات الأمنية لدى OpenAI وجوجل، إلا أنها تركز في الغالب على ثغرات البرمجيات التقليدية بدلاً من تلك الخاصة بالذكاء الاصطناعي. وقد وُجهت انتقادات لشركة Meta لاتباعها ما يعتبره البعض نهجًا مغلقًا نسبيًا في البحث لضمان التطوير الآمن للآلات الذكية المتزايدة. ومن خلال استهداف هذه المشكلات بشكل صريح ودعوة جهات خارجية لدراستها، تُرسّخ Anthropicdent للانفتاح في هذا القطاع.

مع ذلك، ثمة شكوك حول قدرة مكافآت اكتشاف الثغرات وحدها على معالجة كافة المخاوف المتعلقة بتأمين أنظمة التعلم الآلي المتقدمة. فبينما تُعدّ هذه المكافآت قيّمة فيdentالثغرات وإصلاحها، إلا أنها قد لا تُغطي التحديات الأوسع نطاقًا المتعلقة بمواءمة الذكاء الاصطناعي مع القيم الإنسانية وسلامته على المدى الطويل. وقد يكون من الضروري اتباع استراتيجية أكثر شمولية تتضمن اختبارات مكثفة، وتحسين قابلية التفسير، وربما هياكل حوكمة جديدة، لضمان توافق أنظمة الذكاء الاصطناعي مع القيم الإنسانية مع ازدياد قوتها.