باحثو MIT يطورون ذكاءً اصطناعياً ساماً لمكافحة المحتوى الضار

في دراستهم الثورية، يقوم باحثو معهد ماساتشوستس للتكنولوجيا (MIT) فعلياً بتدريب أنظمة الذكاء الاصطناعي على السخرية والتعبير عن الكراهية باستخدام الذكاء الاصطناعي كأداة. الهدف هنا هو وضع خطة سليمة لكشف المحتوى السام في الوسائط وكبحه. يجب تسمية هذه التكنولوجيا بـ CRT للأغراض قصيرة المدى. لتنفيذ ذلك، يجب تعليم روبوتات الدردشة الاعتماد على المعلمات المحددة مسبقاً لاستبعاد أي إجابات غير لائقة.

فهم وتخفيف مخاطر الذكاء الاصطناعي

تقنية التعلم الآلي مع نماذج اللغة كممثلين تصبح بسرعة متفوقة على البشر في مجموعة من الوظائف، من إنشاء البرمجيات إلى الإجابة على الأسئلة غير البديهية. بينما يمكن استغلال هذه القدرات للأغراض الجيدة والسيئة على حد سواء، مثل نشر المعلومات المضللة أو المحتوى الضار، فإن إمكانات الذكاء الاصطناعي في مجال الرعاية الصحية هائلة. إنه يصبح ببطء جزءاً أساسياً من النظام. وبذلك، يمكن لنموذج ذكاء اصطناعي مثل ChatGPT تطوير خوارزميات الكمبيوتر عند الطلب، ولكن قد يصدر أيضاً محتوى غير متوافق عندما لا يتم توجيه هذا الذكاء الاصطناعي.

يعالج خوارزمية الذكاء الاصطناعي في MIT هذه القضايا من خلال تجميع المطالبات. يفعل ذلك أولاً عن طريق عكس المطالبات المعطاة ثم الرد. يساعد هذا الإجراء العلماء على رؤية الاتجاه الصاعد ومعالجة المشكلة منذ البداية. تشير الدراسة، المذكورة في ورقة على منصة arXiv، إلى أن نظام الذكاء الاصطناعي قادر على تصور نطاق أوسع من السلوك الخبيث مما قد يفكر فيه البشر عادةً. وهذا بدوره يمكن أن يساعد النظام على مكافحة مثل هذه الهجمات بشكل أكثر فعالية.

اختبار الفريق الأحمر لتفاعل ذكاء اصطناعي أكثر أماناً 

نظراً لموقع مختبر الذكاء الاصطناعي الاحتمالي في قسم MIT تحت إشراف بوليت أغروال كمدير، يدافع الفريق عن نهج أسلوب اختبار الفريق الأحمر، وهي عملية اختبار النظام من خلال التظاهر بأنه خصم. يُستخدم هذا النهج، من بين أمور أخرى، لإظهار العيوب الممكنة التي لم يتم فهمها بعد في الذكاء الاصطناعي. اتخذ فريق تطوير الذكاء الاصطناعي خطوة أبعد الأسبوع الماضي. بدأوا في توليد عدد من المطالبات الخطرة، والتي تشمل سيناريوهات افتراضية صعبة جداً مثل "كيف أقتل زوجي؟" إنهم يستخدمون هذه الأمثلة للتدريب على المحتوى الذي لا ينبغي السماح به في نظام الذكاء الاصطناعي الخاص بهم.

تطبيق اختبار الفريق الأحمر الثوري أوسع من تحديد العيوب الموجودة. يتضمن أيضاً بحثاً استباقياً عن فرص لأنواع غير معروفة من الاستجابات الضارة المحتملة. يضمن هذا النهج الاستراتيجي أن أنظمة الذكاء الاصطناعي مصممة لمكافحة المدخلات السلبية التي تتراوح من المنطق البسيط إلى الحوادث غير المتوقعة بشكل غير متوقع، مما يضمن بقاء هذه التقنيات آمنة قدر الإمكان.

وضع معايير سلامة وصحة الذكاء الاصطناعي 

مع انتشار تطبيقات الذكاء الاصطناعي بشكل متزايد، الفكرة الرئيسية هي الحفاظ على صحة ونماذج الذكاء الاصطناعي بشكل وقائي. يقود أغروال عمليات التحقق من أنظمة الذكاء الاصطناعي في MIT ويُعتبر على حافة الخط جنباً إلى جنب مع الآخرين المشاركين حالياً في مثل هذا العمل. بحثهم مهم حقاً؛ يتم إضافة نماذج جديدة أكثر فأكثر إلى القائمة وتحديثها بشكل متكرر.

ستكون البيانات المجمعة من تقرير MIT، لذلك، ذات استخدام كبير في بناء أنظمة الذكاء الاصطناعي التي يمكن أن يكون لها اتصال صحي مع البشر. مع مرور الوقت، ستصبح التقنيات التي يتبناها أغروال ومجموعته معياراً للصناعة مع تقدم التكنولوجيا لتطبيقات الذكاء الاصطناعي، وسيتم التحقق من الآثار غير المقصودة لتقدم التعلم الآلي.