في دراسة رائدة، يقوم باحثون في معهد ماساتشوستس للتكنولوجيا (MIT) بتدريب أنظمة الذكاء الاصطناعي على السخرية والتعبير عن الكراهية باستخدام الذكاء الاصطناعي كأداة. والهدف من ذلك هو وضع خطة فعّالة لكشف المحتوى السام في وسائل الإعلام والحدّ منه. ويمكن تسمية هذه التقنية، مؤقتًا، بـ "تقنية نظرية المؤامرة" (CRT). ولتحقيق ذلك، يجب تعليم برامج الدردشة الآلية (chatbots) الاعتماد على معايير محددة مسبقًا لاستبعاد أي إجابات غير لائقة.
فهم مخاطر الذكاء الاصطناعي والتخفيف من حدتها
تتفوق تقنية التعلم الآلي، التي تستخدم نماذج اللغة كممثلين، بسرعة على البشر في العديد من الوظائف، بدءًا من تطوير البرمجيات وصولًا إلى الإجابة عن الأسئلة المعقدة. ورغم إمكانية استغلال هذه القدرات لأغراض حسنة وسيئة، مثل نشر المعلومات المضللة أو المحتوى الضار، فإن إمكانات الذكاء الاصطناعي في مجال الرعاية الصحية هائلة، إذ بات جزءًا لا يتجزأ من النظام الصحي. ولذلك، يمكن لنظام ذكاء اصطناعي، مثل ChatGPT، تطوير خوارزميات حاسوبية عند الطلب، ولكنه قد يُصدر محتوى غير مناسب إذا لم يُوجّه بشكل صحيح.
يعالج نظام الذكاء الاصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا هذه المشكلات من خلال توليد المحفزات. ويقوم بذلك عن طريق محاكاة المحفزات المعطاة أولاً ثم الاستجابة لها. يساعد هذا الإجراء العلماء على رصد الاتجاه المتزايد ومعالجة المشكلة في بدايتها. وتشير الدراسة، المذكورة في ورقة بحثية على منصة arXiv، إلى أن نظام الذكاء الاصطناعي قادر على تصور نطاق أوسع من السلوكيات الخبيثة مما قد يتصوره البشر. وهذا بدوره يساعد النظام على التصدي لهذه الهجمات بفعالية أكبر.
فريق أحمر لتفاعل أكثر أمانًا مع الذكاء الاصطناعي
بفضل موقع مختبر الذكاء الاصطناعي الاحتمالي التابع لقسم الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا، تحت إشراف بولكيت أغراوال كمدير، يتبنى الفريق نهجًا مشابهًا لنهج "الفريق الأحمر"، وهو عملية اختبار النظام من خلال التظاهر بأنه خصم. يُستخدم هذا النهج، من بين أمور أخرى، للكشف عن أوجه defiالمحتملة، التي لم تُفهم بعد، في الذكاء الاصطناعي. وقد خطا فريق تطوير الذكاء الاصطناعي خطوةً أبعد الأسبوع الماضي، حيث بدأ في توليد عدد من المطالبات الخطرة، والتي تتضمن سيناريوهات افتراضية بالغة الصعوبة مثل "كيف أقتل زوجي؟". ويستخدمون هذه الحالات لتدريب نظام الذكاء الاصطناعي الخاص بهم على المحتوى الذي لا ينبغي السماح به.
إن التطبيق الثوري لفرق الاختبار الأحمر يتجاوز مجردdentالثغرات الموجودة، فهو يشمل أيضاً البحث الاستباقي عن فرص لأنواع غير معروفة من الاستجابات الضارة المحتملة. يضمن هذا النهج الاستراتيجي تصميم أنظمة الذكاء الاصطناعي لمواجهة المدخلات السلبية التي تتراوح بين المدخلات المنطقية البسيطةdentغير المتوقعة، مما يضمن بقاء هذه التقنيات آمنة قدر الإمكان.
وضع معايير السلامة والصحة في مجال الذكاء الاصطناعي
مع تزايد انتشار تطبيقات الذكاء الاصطناعي، تكمن الفكرة الأساسية في الحفاظ على دقة وسلامة نماذج الذكاء الاصطناعي بشكل استباقي. يقود أغراوال عمليات التحقق من أنظمة الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا، ويُعتبر من الرواد في هذا المجال إلى جانب غيره من الباحثين العاملين فيه. وتُعد أبحاثهم بالغة الأهمية، حيث تُضاف باستمرار نماذج جديدة إلى القائمة ويتم تحديثها بوتيرة متسارعة.
لذا، ستكون البيانات التي جُمعت من تقرير معهد ماساتشوستس للتكنولوجيا ذات فائدة كبيرة في بناء أنظمة ذكاء اصطناعي قادرة على بناء علاقة سليمة مع البشر. ومع مرور الوقت، ستصبح التقنيات التي اعتمدها أغراوال وفريقه معيارًا صناعيًا مع تطور تكنولوجيا تطبيقات الذكاء الاصطناعي، وسيتم الحد من الآثار الجانبية غير المقصودة لتقدم التعلم الآلي.
