هل يمكن أن يصبح الذكاء الاصطناعي غير متحيز في الرعاية الصحية؟ الباحثون يكافحون لإيجاد إجابة

يجب أن يحصل كل مريض، بغض النظر عن خصائصه الجسدية وهويته، على رعاية صحية جيدة. ومع ذلك، غالباً ما يُحرم بعض الأشخاص أو المجموعات من العدالة في نظام الرعاية الصحية بسبب مشكلة عدم المساواة والتحيزات الضمنية في العلاج والتشخيص الطبي. 

نماذج الذكاء الاصطناعي في الرعاية الصحية متحيزة

وجد الآن مجموعة من الباحثين من معهد ماساتشوستس للتكنولوجيا (MIT) أن الذكاء الاصطناعي وتعلم الآلة يميلان إلى زيادة التفاوتات وعدم المساواة في الرعاية الصحية بين المجموعات الفرعية، وغالباً ما تكون غير ممثلة تمثيلاً كافياً. يمكن أن يؤثر ذلك على كيفية تشخيص هذه المجموعات وعلاجها. 

قاد فريق من الباحثين، برئاسة الأستاذة المساعدة مارزيه غاسيمي في قسم الهندسة الكهربائية وعلوم الحاسوب (EECS) في معهد ماساتشوستس للتكنولوجيا (MIT)، وأصدروا ورقة بحثية تحلل جذور التفاوتات التي قد تنشأ في الذكاء الاصطناعي، مما يتسبب في فشل النماذج التي تؤدي أداءً جيداً بشكل عام عند التعامل مع المجموعات الفرعية غير الممثلة تمثيلاً كافياً.

ركز التحليل على 

"نريد أن تكون النماذج عادلة وتعمل بنفس الكفاءة لجميع المجموعات، ولكن بدلاً من ذلك، نلاحظ باستمرار وجود تحولات بين مجموعات مختلفة يمكن أن تؤدي إلى تشخيص وعلاج طبي أدنى"، تقول يوزهي يانغ، طالبة الدكتوراه في معهد ماساتشوستس للتكنولوجيا.

الباحثون يحددون تحولات 4 التي تثير التحيزات في نماذج الذكاء الاصطناعي

حدد باحثو معهد ماساتشوستس للتكنولوجيا أربعة أنواع من التحولات – الارتباطات الزائفة، وعدم توازن السمات، وعدم توازن الفئات، وتعميم السمات – والتي تسبب عدم مساواة وتحيزاً في تقنيات الذكاء الاصطناعي.

"يمكن أن تنبع التحيزات، في الواقع، من ما يسميه الباحثون الفئة، أو من السمة، أو كليهما"، كما ورد في التقرير. 

قدم الباحثون مثالاً حيث تم استخدام نماذج التعلم الآلي لتحديد ما إذا كان الشخص مصاباً بالالتهاب الرئوي أم لا بناءً على فحص صور الأشعة السينية، مع سمتين – الأشخاص الذين يخضعون للأشعة السينية هم إما إناث أو ذكور، وفئتين – واحدة تتكون من الأشخاص الذين يعانون من مرض الرئة، والأخرى خالية من العدوى.

"إذا، في مجموعة البيانات هذه، كان هناك 100 ذكر تم تشخيص إصابتهم بالالتهاب الرئوي مقابل كل أنثى تم تشخيص إصابتها بالالتهاب الرئوي، فقد يؤدي ذلك إلى عدم توازن في السمة، ومن المرجح أن يقوم النموذج بعمل أفضل في الكشف الصحيح عن الالتهاب الرئوي لدى الرجل مقارنة بالمرأة"، أوضح الفريق.

هل يمكن لنماذج الذكاء الاصطناعي العمل بطريقة غير متحيزة؟

قال باحثو معهد ماساتشوستس للتكنولوجيا إنهم تمكنوا من تقليل حدوث الارتباطات الزائفة، وعدم توازن الفئات، وعدم توازن السمات من خلال تحسين "المصنف" و"المشفّر". ومع ذلك، استمرت التحول الآخر، "التعميم السمي". 

"بغض النظر عما فعلناه بالمشفّر أو المصنف، لم نر أي تحسن من حيث التعميم السمي"، تقول يانغ، "ولم نعرف بعد كيفية معالجة ذلك."

يستكشف الفريق حالياً مجموعات البيانات العامة لعشرات الآلاف من المرضى وأشعة الصدر لتحديد ما إذا كان يمكن لأخصائيي الرعاية الصحية تحقيق الإنصاف في التشخيص الطبي والعلاج في نماذج التعلم الآلي.

ومع ذلك، أقروا بأنه لا يزال هناك حاجة لفهم أفضل لمصادر عدم الإنصاف وكيف تنتشر في نظامنا الحالي للوصول إلى العدالة المطلوبة.