الباحثون يسعون لإدخال عدم اليقين البشري لتحسين موثوقية الذكاء الاصطناعي

في مجال الذكاء الاصطناعي (AI) سريع التطور، يبتكر باحثون من جامعة كامبريدج نهجاً رائداً لمعالجة مشكلة أساسية – غياب عدم اليقين البشري في أنظمة AI. بينما يتفوق الذكاء الاصطناعي غالباً في الدقة، فإنه يفتقر إلى فهم ودمج السمات البشرية مثل الشك والخطأ. سعياً لسد هذه الفجوة، يستكشف العلماء طرقاً لدمج عدم اليقين البشري في برامج الذكاء الاصطناعي، لا سيما في المجالات عالية المخاطر مثل التشخيص الطبي.

دمج عدم اليقين البشري

تعمل العديد من أنظمة الذكاء الاصطناعي، خاصة تلك التي تعتمد على التغذية الراجعة من البشر، على افتراض أن البشر دائماً دقيقون وواثقون في قراراتهم. ومع ذلك، فإن القرارات في الحياة الحقيقية تتميز بطبيعتها بالعيوب والأخطاء والشكوك. سعى فريق البحث في جامعة كامبريدج إلى التوفيق بين هذا السلوك البشري وتعلم الآلة، بهدف تعزيز الموثوقية وتقليل المخاطر في واجهات تفاعل الإنسان مع الآلة.

تحديات التعامل مع عدم اليقين البشري

لفهم أفضل لتداعيات دمج عدم اليقين البشري في أنظمة الذكاء الاصطناعي، عدل الباحثون مجموعة بيانات راسخة لتصنيف الصور. سمحوا للمشاركين البشر بتحديد مستويات عدم اليقين الخاصة بهم أثناء تسمية الصور. كانت النتائج مثيرة للاهتمام؛ بينما تحسنت أنظمة الذكاء الاصطناعي المدربة بتسميات غير مؤكدة في التعامل مع التغذية الراجعة المشكوك فيها، فإن إدراج عدم اليقين البشري تسبب أحياناً في انخفاض أداء أنظمة الذكاء الاصطناعي-البشر.

في مجال الذكاء الاصطناعي، يُنظر إلى نهج "الإنسان في الحلقة" (human-in-the-loop)، الذي يسمح بالتغذية الراجعة البشرية، كوسيلة للتخفيف من المخاطر في المجالات التي قد تفشل فيها الأنظمة الآلية وحدها. ومع ذلك، يثير هذا السؤال حول كيفية استجابة هذه الأنظمة عندما يعبر المتعاونون البشر عن الشك. تؤكد كاثرين كولينز، المؤلفة الأولى للدراسة، على أهمية معالجة عدم اليقين من منظور الشخص، قائلة:

"عدم اليقين هو محور كيفية تفكير البشر في العالم، لكن العديد من نماذج الذكاء الاصطناعي تفشل في أخذ هذا في الاعتبار".

تسلط الدراسة الضوء على أنه في السيناريوهات التي يمكن أن تكون فيها الأخطاء ذات عواقب ضئيلة، مثل الخلط بين غريب وصديق، قد يكون عدم اليقين البشري غير ذي أهمية. ومع ذلك، في التطبيقات الحساسة للسلامة، مثل الأطباء العاملين مع أنظمة الذكاء الاصطناعي الطبية، يمكن أن يكون عدم اليقين البشري خطيراً. يشدد ماثيو باركر، أحد مؤلفي الدراسة، على الحاجة إلى أدوات أفضل لإعادة معايرة نماذج الذكاء الاصطناعي، مما يمكّن الأفراد من التعبير عن عدم اليقين. ويلاحظ:

"على الرغم من إمكانية تدريب الآلات بثقة كاملة، لا يستطيع البشر غالباً تقديم ذلك، وتعاني نماذج تعلم الآلة من هذا عدم اليقين".

التأثير على الأداء

أجرى فريق البحث تجارب باستخدام مجموعات بيانات متنوعة، بما في ذلك واحدة حيث ميز المشاركون البشر ألوان الطيور. أشارت النتائج إلى أن استبدال قرارات الآلة بقرارات بشرية غالباً ما أدى إلى انخفاض كبير في الأداء. هذا يوضح التحديات في دمج البشر بسلاسة في أنظمة تعلم الآلة.

في السعي لسد الفجوة بين الذكاء الاصطناعي وعدم اليقين البشري، يقوم الباحثون بجعل مجموعات البيانات الخاصة بهم متاحة للعامة لتشجيع المزيد من الاستكشاف في هذا المجال. تؤكد كاثرين كولينز على أهمية الشفافية، قائلة: "عدم اليقين هو شكل من أشكال الشفافية، وهذا أمر بالغ الأهمية". وتؤكد على الحاجة إلى تحديد متى نثق بنموذج ومتى نثق بإنسان، لا سيما في التطبيقات مثل روبوتات الدردشة، حيث يعد فهم لغة الاحتمالية أمراً حاسماً لتجربة مستخدم طبيعية وآمنة.