هل يمكن للذكاء الاصطناعي أن يصبح محايدًا في مجال الرعاية الصحية؟ باحثون يكافحون لإيجاد إجابة

ينبغي أن يحصل كل مريض، بغض النظر عن خصائصه الجسديةdent، على رعاية صحية جيدة. ومع ذلك، غالباً ما يُحرم بعض الأفراد أو الفئات من العدالة في نظام الرعاية الصحية بسبب مشكلة عدم المساواة والتحيزات الضمنية في العلاج والتشخيص الطبي. 

نماذج الذكاء الاصطناعي في مجال الرعاية الصحية متحيزة

توصل فريق من الباحثين من معهد ماساتشوستس للتكنولوجيا (MIT) إلى أن الذكاء الاصطناعي والتعلم الآلي يميلان إلى تفاقم التفاوتات وعدم المساواة في الرعاية الصحية بين فئات فرعية غالباً ما تكون ممثلة تمثيلاً ناقصاً. وهذا بدوره قد يؤثر على كيفية تشخيص هذه الفئات وعلاجها. 

بقيادة الأستاذة المساعدة في قسم العلوم والهندسة الكهربائية (EECS) في معهد ماساتشوستس للتكنولوجيا، مرضية قاسمي، أصدر الباحثون ورقة بحثية تحلل جذور التفاوتات التي يمكن أن تنشأ في الذكاء الاصطناعي، مما يتسبب في تعثر النماذج التي تعمل بشكل جيد بشكل عام عندما يتعلق الأمر بمجموعات فرعية ممثلة تمثيلاً ناقصاً.

ركز التحليل على "تحولات المجموعات الفرعية"، والتي defiالتقرير بأنها "الاختلافات في أداء نماذج التعلم الآلي لمجموعة فرعية مقارنة بمجموعة أخرى". وكان الهدف الرئيسي هو تحديد أنواع تحولات المجموعات الفرعية التي يمكن أن تحدث مع تقنيات الذكاء الاصطناعي، والتي قد تُسهم في تطوير نماذج أكثر عدالة في المستقبل. 

"نريد أن تكون النماذج عادلة وتعمل بشكل جيد لجميع المجموعات، ولكن بدلاً من ذلك، نلاحظ باستمرار وجود تحولات بين المجموعات المختلفة التي يمكن أن تؤدي إلى تشخيص وعلاج طبي أقل جودة"، كما يقولdent الدكتوراه في معهد ماساتشوستس للتكنولوجيا يوزهي يانغ.

dentالباحثون أربعة تحولات تُثير التحيزات في نماذج الذكاء الاصطناعي

باحثو معهد ماساتشوستس للتكنولوجياdentفي عدم المساواة والتحيزات في تقنيات الذكاء الاصطناعي. 

وجاء في التقرير: "يمكن أن تنشأ التحيزات في الواقع مما يسميه الباحثون الفئة، أو من السمة، أو كليهما". 

قدم الباحثون مثالاً حيث تم استخدام نماذج التعلم الآلي لتحديد ما إذا كان الشخص مصابًا بالالتهاب الرئوي أم لا بناءً على فحص صور الأشعة السينية، مع سمتين - الأشخاص الذين يخضعون للأشعة السينية إما أنثى أو ذكر، وفئتين - إحداهما تتكون من الأشخاص المصابين بمرض الرئة، والأخرى خالية من العدوى.

وأوضح الفريق: "إذا كان هناك، في مجموعة البيانات هذه تحديداً، 100 ذكر تم تشخيص إصابتهم بالالتهاب الرئوي مقابل كل أنثى تم تشخيص إصابتها بالالتهاب الرئوي، فقد يؤدي ذلك إلى عدم توازن في السمات، ومن المرجح أن يقوم النموذج بعمل أفضل في اكتشاف الالتهاب الرئوي لدى الرجل مقارنة بالمرأة".

هل يمكن لنماذج الذكاء الاصطناعي أن تعمل بطريقة غير متحيزة؟

قال باحثو معهد ماساتشوستس للتكنولوجيا إنهم تمكنوا من تقليل حدوث الارتباطات الزائفة، وعدم توازن الفئات، وعدم توازن السمات من خلال تحسين "المصنف" و"المشفر". ومع ذلك، استمر التحول الآخر، "تعميم السمات". 

يقول يانغ: "بغض النظر عما فعلناه بالمشفر أو المصنف، لم نرَ أي تحسينات من حيث تعميم السمات، ولا نعرف حتى الآن كيفية معالجة ذلك"

يقوم الفريق حاليًا باستكشاف مجموعات البيانات العامة لعشرات الآلاف من المرضى وصور الأشعة السينية للصدر لتحديد ما إذا كان بإمكان المتخصصين في الرعاية الصحية تحقيق العدالة في التشخيص والعلاج الطبي في نماذج التعلم الآلي.

ومع ذلك، أقروا بأنه لا تزال هناك حاجة إلى فهم أفضل لمصادر الظلم وكيفية تغلغلها في نظامنا الحالي للوصول إلى الإنصاف المطلوب.