قاعدة شفافية الذكاء الاصطناعي تكشف فوائد محتملة وسط قيود

سعياً لتوفير الوضوح في المياه العكرة غالباً ما تكون في مجال الذكاء الاصطناعي (AI) في الرعاية الصحية، أدخلت وزارة الصحة والخدمات البشرية (HHS) إجراءً محورياً – وهو قاعدة شفافية الذكاء الاصطناعي (HTI-1). وعلى الرغم من الإشادة بمحاولة هذه القاعدة إلقاء الضوء على تعقيدات نماذج الذكاء الاصطناعي التنبؤية، يحذر الخبراء من أن القاعدة، رغم فائدتها، قد لا توفر حلاً شاملاً للتحديات المتأصلة في هذه التكنولوجيا سريعة التطور.

تنشأ قاعدة شفافية الذكاء الاصطناعي من الاعتراف بنقص شديد في الشفافية في سوق الذكاء الاصطناعي للرعاية الصحية، لا سيما فيما يتعلق بالنماذج التنبؤية. ويؤكد جيف سميث، نائب مدير الاعتماد والاختبار في مكتب المنسق الوطني لتقنية المعلومات الصحية (ONC) التابع لوزارة الصحة والخدمات البشرية، على الاستعجال وراء هذه المبادرة. تسعى القاعدة إلى معالجة ندرة المعلومات المتعلقة بتصميم ونماذج الذكاء الاصطناعي التنبؤية، بما في ذلك التصميم، والتطوير، والاختبار، والتدريب، والتقييم، والتي أدت إلى أضرار موثقة تؤثر على ملايين الأمريكيين.

إلقاء الضوء على مبادئ القاعدة

وفقاً لقاعدة شفافية الذكاء الاصطناعي، قامت إدارة المنسق الوطني (ONC) بتحديد فئتين سياسيتين شاملتين. أولاً، تفرض القاعدة توفر معلومات شاملة حول كيفية تصميم النماذج التنبؤية للتدخلات الداعمة للقرار (DSIs)، وتطويرها، وتدريبها، وتقييمها، وكيفية استخدامها. وهذا يمثل خطوة حاسمة نحو تمكين المستخدمين من فهم أعمق لخوارزميات الذكاء الاصطناعي التي يستخدمونها.

أيضاً، تنص القاعدة على أن إدارة المخاطر تلعب دوراً محورياً في نشر النماذج التنبؤية للتدخلات الداعمة للقرار، ويجب أن ترشد الحوكمة تصميمها وتنفيذها. ومن خلال إنشاء إطار عمل يتضمن الإفصاح عن المعلومات وإدارة المخاطر، تهدف القاعدة إلى إنشاء خط أساس لتقييم جودة خوارزميات الذكاء الاصطناعي على المستوى الوطني.

يشدد ماند كارهاد، قائد البيانات والتحليلات في أفاليري هيلث، على أن نية بعض نماذج الذكاء الاصطناعي ليست دائماً واضحة. سواء كان الهدف هو التشخيص، أو توفير التكاليف، أو أي هدف آخر، فإن عدم الوضوح يشكل تحديات محتملة. وتبرز السجلات الصحية الإلكترونية (EHRs) كقطاع عرضة للخطر، حيث تثير ميزات الذكاء الاصطناعي مثل ميزة "الإكمال التلقائي" من أوراكل مخاوف بشأن الدقة والإضافات غير المقصودة للبيانات.

يرسم جيف سميث مقارنات بين قاعدة شفافية الذكاء الاصطناعي وعلبة التغذية الغذائية، مبرزاً دورها في توفير معلومات أساسية. وتحديداً، تشكك ميغان أوكونور، الخبيرة القانونية من شركة كوارلز آند برادي، في هذه المقارنة، مشيرة إلى الطبيعة الذاتية وغير القابلة للقياس للمعلومات التي يتم الإفصاح عنها. وهذا يثير تساؤلات حول كيفية تواصل مطوري تكنولوجيا المعلومات الصحية بشأن هذه المعلومات، وكيفية دمج مقدمي الرعاية الصحية لها في تحليل المخاطر الخاصة بهم.

تقييم نطاق قاعدة شفافية الذكاء الاصطناعي

يقدم نيام ياراغي، الشريك الأول غير المقيم في مؤسسة بروكينغز، منظوراً نقدياً. وعلى الرغم من اعترافه بالهدف النبيل للقاعدة المتمثل في ضمان العدالة في الذكاء الاصطناعي، إلا أنه يعتبرها رد فعل إلى حد ما. ويدعو ياراغي إلى سياسات تعزز التقدم السريع في الذكاء الاصطناعي ومعالجة العوائق مثل صوامع البيانات في نظام الرعاية الصحية.

في خضم تعقيدات الشفافية في الذكاء الاصطناعي، تمثل هذه القاعدة خطوة كبيرة إلى الأمام. ومع ذلك، بينما تتعامل صناعة الرعاية الصحية مع الطبيعة المتطورة للذكاء الاصطناعي، تظل الأسئلة قائمة: هل يمكن للشفافية وحدها ضمان الاستخدام المسؤول والعادل للذكاء الاصطناعي في الرعاية الصحية؟ هل هناك قيود متأصلة في قدرة هذه القاعدة على معالجة التحديات الديناميكية الناتجة عن تقاطع التكنولوجيا والرعاية الصحية؟ وبينما يتحاشى أصحاب المصلحة بعناية هذا الساحة المتطورة، يظل السعي لتحقيق التوازن بين الابتكار والمساءلة أمراً بالغ الأهمية.