كيف يمكن للذكاء الاصطناعي في الرعاية الصحية أن يضلل الأطباء ببيانات متحيزة

في المشهد المعقد للرعاية الصحية، كان دور الذكاء الاصطناعي (AI) كل من نعمة وشر محتمل. في حين أن الذكاء الاصطناعي يحمل وعداً بمساعدة الأطباء في اتخاذ قرارات أكثر استنارة، تكشف دراسة حديثة نُشرت في مجلة الجمعية الطبية الأمريكية (JAMA) عن حقيقة مقلقة. 

تغوص الدراسة في عواقب استخدام الذكاء الاصطناعي في الرعاية الصحية، وتسلط الضوء بشكل خاص على المخاطر الناجمة عن المعلومات المتحيزة المقدمة للأطباء. على الرغم من الجهود الحثيثة التي تبذلها الهيئات التنظيمية مثل إدارة الغذاء والدواء (FDA) لضمان موثوقية وأدوات الذكاء الاصطناعي، تشير الدراسة إلى أنه حتى مع وجود الشروحات، قد يتم تضليل الأطباء إذا تعلم الذكاء الاصطناعي من بيانات معيبة ومتحيزة.

استكشاف تأثير الذكاء الاصطناعي في تشخيصات الرعاية الصحية

ركزت الدراسة، التي قادتها سارة جبور، طالبة دكتوراه في علوم الحاسوب بجامعة ميشيغان، على نماذج الذكاء الاصطناعي المصممة لمساعدة الأطباء في تشخيص المرضى الذين يعانون من فشل تنفسي حاد، وهي حالة حرجة يواجه فيها المرضى صعوبات في التنفس. وبالتعاون مع محترفي الرعاية الصحية، بما في ذلك الأطباء وممارسي التمريض والمساعد الطبي، بحث الفريق في كيفية تأثير عملية اتخاذ القرار من قبل الذكاء الاصطناعي على دقة التشخيص. 

وبشكل مفاجئ، عندما اعتمد محترفو الرعاية الصحية حصرياً على قرار الذكاء الاصطناعي، ارتفعت دقتهم بنسبة تقارب 3٪. ولكن، أدى تقديم تفسير، ممثلاً بخريطة توضح تركيز الذكاء الاصطناعي على صورة أشعة سينية للصدر، إلى تحسين الدقة بنسبة إضافية تبلغ 4.4٪.

أخذت الدراسة منعطفاً حاسماً من خلال إدخال تحيز متعمد في عملية اتخاذ القرار من قبل الذكاء الاصطناعي. على سبيل المثال، قد يقترح الذكاء الاصطناعي بشكل غير دقيق أن المرضى الأكبر سناً، والذين تبلغ أعمارهم 80 عاماً فأكثر، أكثر عرضة للإصابة بالالتهاب الرئوي. 

وأبرزت جينا وينز، إحدى الأستاذات المشاركات في الدراسة، التحيزات الكامنة في الذكاء الاصطناعي عند تعلمه من بيانات معيبة، مستشهدة بمثال حيث يمكن أن تؤدي التشخيصات الخاطئة بناءً على الجنس إلى نتائج مشوهة. وللأسف، عندما عُرضت على الأطباء تفسيرات من الذكاء الاصطناعي المتحيز، انخفضت دقتهم بنسبة حوالي 11.3٪، حتى عندما كان التركيز غير ذي الصلة من قبل الذكاء الاصطناعي واضحاً.

تحدي فك تشابك تحيزات الذكاء الاصطناعي

تقر سارة جبور بأنه بينما تقدم تفسيرات الذكاء الاصطناعي مساراً محتملاً للتحسين، فإن الدراسة تسلط الضوء على التحديات. إن الانخفاض في الأداء، والذي يتماشى مع دراسات أخرى، يشير إلى أنه حتى مع وجود التفسيرات، قد لا تزال نماذج الذكاء الاصطناعي تضلل محترفي الرعاية الصحية. 

تؤكد جبور على الحاجة إلى جهود تعاونية عبر مجالات مختلفة لتطوير طرق أفضل لشرح قرارات الذكاء الاصطناعي للأطباء بطريقة مفهومة. وتُعد الدراسة نداءً عازماً لإجراء مزيد من البحث، محفزةً على استكشاف سبل الاستفادة من فوائد الذكاء الاصطناعي بأمان في الرعاية الصحية. كما تؤكد على ضرورة التعليم الطبي القوي لتزويد المحترفين بالمعرفة اللازمة للتنقل عبر التحيزات المحتملة للذكاء الاصطناعي.

مع تقدم دمج الذكاء الاصطناعي في الرعاية الصحية، يطرح هذا السؤال الحاسم: كيف يمكننا ضمان الاستخدام الآمن والفعال للذكاء الاصطناعي مع التخفيف من مخاطر المعلومات المتحيزة؟ تؤكد النتائج على ضرورة معالجة هذه التحديات، والدفع نحو الابتكارات التي تسد الفجوة بين تقدم الذكاء الاصطناعي وفهم الأطباء.

هل يمكن للجهود التعاونية للخبراء من مجالات متنوعة أن تمهد الطريق لمستقبل يعزز فيه الذكاء الاصطناعي في الرعاية الصحية الدقة دون المساس بالموثوقية والسلامة؟ لا تُعد الدراسة مجرد قصة تحذيرية فحسب، بل أيضاً حافزاً للاستكشاف المستمر للعلاقة المعقدة بين الذكاء الاصطناعي والرعاية الصحية، محفزةً أصحاب المصلحة على التنقل في المشهد المتطور بوعي حاد بالمخاطر المحتملة.