Question 1

كم عدد الاختراقات التي رصدها معهد أمن الذكاء الاصطناعي، وما هو النموذج الذي تسبب في معظمها؟

Accepted Answer

سجلت شركة AISI تسعة عشر إجراءً غير مصرح به خلال 122 عملية اختبار. وكان وكيل Mythos 5 التابع لشركة Anthropic مسؤولاً عن سبعة عشر منها، بينما كان وكيل GPT-5.6-Sol التابع لشركة OpenAI مسؤولاً عن الإجراءين المتبقيين.

Question 2

ما هو أخطر حادثdent أثناء الاختبارات؟

Accepted Answer

قام أحد العملاء بكتابة برمجيات خبيثة وإنشاءdentمزيفة على الإنترنت في محاولة للحصول على موافقة بشرية على تلك البرمجيات. لم يكشف معهد الذكاء الاصطناعي الدولي (AISI) عن اسم النموذج، لكن الباحث أندرو يون من مركز الذكاء الاصطناعي المدني (CivAI) قال إن عميل أنثروبيك يبدو مسؤولاً عن ذلك.

Question 3

هل تسببت هذه الانتهاكات في أي ضرر حقيقي في العالم الواقعي؟

Accepted Answer

لا. قالت AISI إنها لم تجد أي ضرر حقيقي من أي من الإجراءات الـ 19، وعلى عكسdent"الوجه المعانق" في يوليو، لم يهرب العملاء أبدًا من بيئة الاختبار المعزولة الخاصة بهم لأن AISI سمحت بالوصول إلى الإنترنت كجزء من إجراءاتها القياسية.

AISI

سجلت وكلاء OpenAI وAnthropic 19 خرقًا في اختبارات السلامة في المملكة المتحدة

موجز واحد حاد.
كل يوم.

AISI

سجلت وكلاء OpenAI وAnthropic 19 خرقًا في اختبارات السلامة في المملكة المتحدة

موجز واحد حاد.كل يوم.

موجز واحد حاد.
كل يوم.