القاعدة الجديدة للتمييز في مجال الذكاء الاصطناعي في قطاع الرعاية الصحية قيد التنفيذ

مكتب الحقوق المدنية (OCR) التابع لوزارة الصحة والخدمات الإنسانية (HHS) مؤخراً قاعدة نهائية بشأن مدى انطباق المادة 1557 من قانون الرعاية الصحية الميسرة، والتي تحد من أي برامج صحية ممولة بأموال فيدرالية من التمييز على أساس العرق أو اللون أو الجنسية أو الجنس أو العمر أو الإعاقة.

يتماشى هذا الحكم مع قرار المحكمة العليا في قضية بوستوك ضد مقاطعة كلايتون عام 2020، ويُفهم من المادة 1557 التمييز "على أساس الجنس"، والذي يشمل كلاً من الميول الجنسية والهويةdent. وقد نصّ الحكم الأخير كذلك على أنه حتى عند تطبيق التعلّم الآلي في تقنية مدعومة بالذكاء الاصطناعي، تظل معايير استخدام مقدمي الخدمات خاضعة للمادة 1557. وبالتالي، يُطلب منهم فحص ومعالجة أي مخاطر محتملة للتمييز.

تقييم مخاطر التحيز في الذكاء الاصطناعي

بموجب قواعد الحوكمة، تُعرَّف "أداة دعم قرارات رعاية المرضى" بأنها أي تكوين مستقل أو مُدمج لأي تقنية أو أسلوب تستخدمه جهة مشمولة للمساعدة في اتخاذ القرارات السريرية. على سبيل المثال، تتضمن بعض أدوات تطبيقات الرعاية المباشرة للمرضى خوارزميات تنبؤية قادرة على تقييم مخاطر المريض وشدة الأحداث الصحية المستقبلية، بالإضافة إلى محركات تحليل تُستخدم للموافقة على المطالبات الطبية أو رفضها بناءً على ضرورة العلاج. 

ذكر مكتب الحقوق المدنية (OCR) أنه مع استخدام هذه الأدوات وتفضيل القائمة على الذكاء الاصطناعي اتخاذ القرارات defiالمركبات ذاتية القيادة والوسائل المساعدة غير الآلية مثل المخططات الانسيابية. وبالتالي، قد تكون التكنولوجيا الصحية غير عادلة إذا مُنع الأشخاص ذوو الإعاقة من الحصول على رعاية متساوية، ولم يأخذ مقدمو الخدمات في الاعتبار الخصائص الفردية للفحص الصحي.

جهود معقولة لمنع التحيز

قدرة الجهة المعنية على تحمل مسؤولية المستهلك الإضافية أو مواردها المالية. وسواءً أُنتجت المنتجات لغرض استخدامها المُعتمد من قِبل المطورين والجهات التنظيمية، وبغض النظر عن تصميم البيانات، ينبغي على المطورين السعي لتوعية الجهة المعنية بمخاطر التمييز.

كن واضحًا بشأن ما إذا كان صاحب البيانات (الذي تعمل الجهة المشمولة نيابة عنه) يتبع عملية ما أو ما إذا كانت الجهة المشمولة (أي منظمة تعمل نيابة عن صاحب البيانات) قد طورت بالفعل عملية لتقييم الأدوات المستخدمة.

يختلف هذا القرار اختلافًا جذريًا عن القرار السابق الذي كان يصنف تمويل برنامج الرعاية الطبية (الجزء ب) كمساعدة فيدرالية إذا قُدِّم لمقدمي الخدمات والموردين. وسيؤدي خفض عدد المستفيدين من تمويل الجزء ب بشكل طفيف، وإعفاؤهم من المادة 1557، إلى امتثالهم للمادة 1557 وغيرها من لوائح الحقوق المدنية التي يطبقها مكتب الحقوق المدنية.