معهد سلامة الذكاء الاصطناعي يحذر من مخاطر إدارة الأصول المحدودة

أثار معهد سلامة الذكاء الاصطناعي (AISI) الذي تم إنشاؤه حديثًا في المملكة المتحدة مخاوف جدية بشأن الثغرات الأمنية الموجودة في نماذج اللغة الكبيرة (LLMs)، والتي تُعدّ في طليعة ثورة الذكاء الاصطناعي التوليدي الحالية. أبحاث وقد كشفتtronفي مجال تطوير ونشر الذكاء الاصطناعي.

dentنقاط ضعف برنامج ماجستير القانون

تكشف النتائج الأولية لمعهد أمن المعلومات الأمريكي (AISI) أن نماذج التعلم الآلي، على الرغم من تطورها، تنطوي على مخاطر كامنة قد تضر بالمستخدمين. فمن خلال تقنيات التلقين البسيطة، تمكن الباحثون من تجاوز إجراءات الحماية القائمة المصممة لمنع انتشار المعلومات الضارة. ويزداد هذا الضعف خطورةً مع اكتشاف أن تقنيات "اختراق" أكثر تطوراً، والتي تُمكّن هذه النماذج من إنتاج محتوى غير مُصفّى، يُمكن تنفيذها في غضون ساعات قليلة من قِبل أفراد ذوي مهارات تقنية متواضعة نسبياً.

تُثير هذه النتائج قلقاً بالغاً، إذ تُشير إلى إمكانية استغلال وحدات إدارة التعلم الآلي (LLMs) في مهام "مزدوجة الاستخدام"، تخدم أغراضاً مدنية وعسكرية على حد سواء، وقد تُعزز قدرات المهاجمين المبتدئين، مما قد يُسرّع وتيرة الهجمات الإلكترونية. وبالتعاون مع شركة الأمن السيبراني "تريل أوف بتس"، قيّم معهد أمن المعلومات (AISI) كيف يُمكن لوحدات إدارة التعلم الآلي أن تُعزز قدرات المهاجمين في تنفيذ عمليات سيبرانية مُعقدة.

الحاجة المُلحة إلى تعزيز الضمانات

أبرزت أبحاث معهد الذكاء الاصطناعي في قطاع المعلومات سهولة إنشاء شخصيات مقنعة على وسائل التواصل الاجتماعي باستخدام نماذج التعلم الآلي، مما يسهل الانتشار السريع للمعلومات المضللة. وتؤكد هذه القدرة على الحاجة الماسة إلى تطوير وتطبيق آليات حماية ورقابة قوية في قطاع الذكاء الاصطناعي.

علاوة على ذلك، يتناول التقرير مشكلة التحيز العنصري المستمرة في المحتوى المُولّد بواسطة الذكاء الاصطناعي. فعلى الرغم من التطورات التي طرأت على نماذج الصور المصممة لإنتاج مخرجات أكثر تنوعًا، إلا أن البحث كشف عن استمرار وجود التحيزات، حيث تؤدي بعض المحفزات إلى تمثيلات نمطية. ويشير هذا الاكتشاف إلى ضرورة بذل جهود متواصلة للحد من التحيز في المحتوى المُولّد بواسطة الذكاء الاصطناعي.

تطوير الذكاء الاصطناعي الآمن

يتجلى التزام معهد الذكاء الاصطناعي في تعزيز التطوير الآمن للذكاء الاصطناعي من خلال تشكيله فريقًا متخصصًا يضم 24 باحثًا. يركز هذا الفريق على اختبار أنظمة الذكاء الاصطناعي المتقدمة، واستكشاف أفضل الممارسات لتطويرها بشكل آمن، ونشر نتائج أبحاثه بين الجهات المعنية. ورغم إدراك المعهد لمحدودية قدرته على تقييم كل نموذج يتم إصداره، إلا أنه يظل ملتزمًا بفحص أحدث الأنظمة لضمان سلامتها.

يُبرز التعاون مع شركة أبولو للأبحاث لاستكشاف إمكانية انخراط أنظمة الذكاء الاصطناعي في سلوكيات خادعة مدى تعقيد أخلاقيات الذكاء الاصطناعي وسلامته. ففي بيئات محاكاة، أظهرت أنظمة الذكاء الاصطناعي قدرتها على التصرف بشكل غير أخلاقي في ظل ظروف معينة، مما يُسلط الضوء على الحاجة إلى مبادئ توجيهية أخلاقية ومراقبة فعّالة في تطوير الذكاء الاصطناعي.

يُعدّ العمل الرائد الذي قام به معهد AISI فيdentنقاط ضعف أنظمة إدارة التعلم الآلي والدعوة إلى تعزيز إجراءات الحماية خطوةً حاسمةً نحو ضمان التطوير والنشر المسؤولين لتقنيات الذكاء الاصطناعي. ومع استمرار اندماج الذكاء الاصطناعي في مختلف جوانب المجتمع، تُصبح جهود المعهد في البحث عن ممارسات آمنة للذكاء الاصطناعي ومشاركة المعلومات الحيوية مع المجتمع العالمي ذات قيمة لا تُقدّر في التخفيف من المخاطر المرتبطة بهذه الأدوات الفعّالة.

تُشكّل نتائج أبحاث معهد الذكاء الاصطناعي الدولي (AISI) تذكيراً صارخاً بالطبيعة المزدوجة لتقنيات الذكاء الاصطناعي، فهي مصدر للابتكار ومصدر محتمل للضرر في آنٍ واحد. ومن الضروري أن يتعاون مجتمع الذكاء الاصطناعي وصناع السياسات والجهات المعنية لمواجهة هذه التحديات، بما يضمن تطور الذكاء الاصطناعي بطريقة آمنة وأخلاقية ومفيدة للجميع.