Anthropic تطلق برنامج مكافآت عن الأخطاء بقيمة 15,000 دولار لتعزيز سلامة الذكاء الاصطناعي

Anthropic، وهي شركة ناشئة في مجال الذكاء الاصطناعي مدعومة من Amazon، أطلقت برنامج مكافآت عن الأخطاء وستدفع ما يصل إلى 15,000 دولار عن كل تقرير يحدد نقاط ضعف حرجة في أنظمتها للذكاء الاصطناعي. المبادرة هي واحدة من أكثر الجهود شمولاً من قبل أي شركة تعمل مع نماذج لغوية متقدمة لتجنيد اختبار الأمان.

ووفقاً للشركة، يستهدف المكافآت هجمات "كسر القيود العالمية"، وهي طرق يمكنها تجاوز تدابير سلامة الذكاء الاصطناعي في مجالات مثل الأسلحة البيولوجية والتهديدات السيبرانية. قبل إتاحة نظام التخفيف من السلامة من الجيل التالي الخاص بها للجمهور، تخطط Anthropic للسماح للمخترقين الأخلاقيين باختباره لمنع سوء الاستخدام المحتمل.

نقوم بتوسيع برنامج المكافآت عن الثغرات. يركز هذا المبادرة الجديدة على اكتشاف هجمات كسر القيود الشامل في نظامنا الجديد للسلامة.

نقدم مكافآت لاكتشاف ثغرات مبتكرة عبر مجموعة واسعة من المجالات، بما في ذلك الأمن السيبراني. https://t.co/OHNhrjUnwm

— أنثروبيك (@AnthropicAI) أغسطس 8، 2024

بدءاً كمبادرة بدعوة فقط تم القيام بها بالتعاون مع HackerOne، يريد برنامج مكافآت الأخطاء الخاص بـ Anthropic مهارات باحثي الأمن السيبراني في تحديد وإصلاح نقاط الضعف في أنظمتها للذكاء الاصطناعي. تخطط الشركة لفتحها بشكل أوسع في المستقبل، مما قد يقدم نموذجاً للتعاون على نطاق الصناعة بشأن سلامة الذكاء الاصطناعي.

يأتي ذلك في ظل تحقيق هيئة المنافسة والأسواق في المملكة المتحدة (CMA) في استثمار أمازون البالغ 4 مليارات دولار في أنثروبيك، بشأن مخاوف محتملة تتعلق بالمنافسة. وفي ظل هذا الخلفية المتزايدة من الرقابة التنظيمية، يمكن أن يعزز التركيز على السلامة سمعة أنثروبيك ويميزها عن منافسيها.

أنثروبيك تضع معايير جديدة لسلامة الذكاء الاصطناعي

بينما تمتلك كل من OpenAI وGoogle أيضًا برامج لمكافأة اكتشاف الأخطاء، إلا أنها تركز بشكل أساسي على نقاط الضعف التقليدية في البرمجيات بدلاً من تلك الخاصة بالذكاء الاصطناعي. وقد تعرضت Meta لانتقادات لاتباعها نهجًا يُنظر إليه على أنه مغلق نسبيًا فيما يتعلق بالبحث لضمان التطوير الآلي للآلات الذكية بشكل متزايد. ومن خلال استهداف هذه المشكلات صراحةً ودعوة الفحص الخارجي لها، تضع أنثروبيك سابقة للانفتاح داخل القطاع.

ومع ذلك، هناك شكوك حول ما إذا كانت مكافآت اكتشاف الأخطاء وحدها يمكنها معالجة طيف كامل من المخاوف المتعلقة بتأمين أنظمة التعلم الآلي المتقدمة. وعلى الرغم من قيمتها في تحديد وتصحيح عيوب معينة، فقد لا تتمكن من معالجة التحديات الأوسع المتعلقة بمواءمة الذكاء الاصطناعي والسلامة طويلة المدى. قد تكون هناك حاجة إلى استراتيجية أكثر شمولاً تتضمن اختبارات مكثفة، وتحسين قابلية التفسير، وهياكل حوكمة جديدة محتملة لضمان بقاء أنظمة الذكاء الاصطناعي متوافقة مع القيم البشرية مع ازدياد قوتها.