الواقع المزعج لتحيز مولدات الصور بالذكاء الاصطناعي في صور الجراحة: الدراسة تكشف عن عدم مساواة جنسية وعرقية

في كشف رائد، كشفت دراسة حديثة نُشرت في مجلة JAMA Network Surgery عن التحيز المزعج الموجود في مولدات الصور بالذكاء الاصطناعي، وتحديداً في مجال التصوير الجراحي. أجريت الدراسة في مايو 2023، وفحصت بعناية مظاهر الفوارق الجنسانية والعرقية في برمجة مولدات الصور من النص إلى الصورة بالذكاء الاصطناعي، وكشفت عن التمثيل المفرز المثير للقلق للجراحين من الذكور البيض في الصور المولدة.

الدراسة تكشف عن تدقيق مولدات الصور بالذكاء الاصطناعي

تغوص هذه الدراسة المتعمقة في الطبيعة المتحيزة لمولدات الصور الشائعة من النص إلى الصورة، بما في ذلك DALL-E 2 وStable Diffusion وMidjourney. قام سبعة مراجعين دقيقين بفحص 2400 صورة غطت ثمانية تخصصات جراحية، جميعها تمت معالجتها بعناية من خلال كل مولد ذكاء اصطناعي. وتم إنشاء 1200 صورة إضافية باستخدام مطالبات جغرافية لنيجيريا والولايات المتحدة والصين. كان الهدف الشامل هو تقييم مدى دقة انعكاس المولدات للتحيزات المجتمعية فيما يتعلق بالديموغرافيا الخاصة بالجراحين والمتدربين الجراحيين.

فحص البحث الشامل الصور المولدة مقارنة بالخصائص الديموغرافية للجراحين والمتدربين الجراحيين في الولايات المتحدة، وكشف عن فوارق مذهلة وذات دلالة إحصائية. كان البيض والذكور ممثلين تمثيلاً مفرطاً بشكل غير متناسب بين الجراحين الرئيسيين، بينما كانت الإناث وغير البيض ممثلين تمثيلاً ناقصاً بشكل لافت. وفشلت مولدات الذكاء الاصطناعي، ولا سيما Midjourney وStable Diffusion، في تمثيل التنوع الملاحظ بدقة في التحليل الدقيق للبيانات الديموغرافية الفعلية.

التصوير المتحيز والحاجة الملحة إلى إجراءات الحماية

أظهر نموذج DALL-E 2، عند توجيهه بعناية فائقة باستخدام صورة وجه جراح، القدرة على إنتاج صور تعكس بدقة البيانات الديموغرافية للإناث والأقليات العرقية. ومع ذلك، أظهر النموجان الآخران، Midjourney وStable Diffusion، بشكل صارخ نقصاً كبيراً في تمثيل هذه الفئات، حيث انخفضت دقة التمثيل إلى أقل من 2%. وُجد أن المطالبات الجغرافية حسّنت قليلاً من تمثيل الجراحين من الأقليات العرقية، لكن كان لها تأثير ضئيل جداً على تمثيل الإناث.

تؤكد هذه النتائج الجذرية الآثار الواسعة النطاق لاستخدام مولدات الذكاء الاصطناعي (AI)، مع كشف مذهل عن أن ثلثي هذه المولدات تقريباً يعززان وينشران التحيزات المجتمعية القائمة من خلال تصوير ممارسي الجراحة بشكل غير متناسب وكبير كرجال ينتمون إلى العرق القوقازي. إن التداعيات العميقة لهذا التصوير المتحيز في مجال التمثيلات البصرية التي يولدها الذكاء الاصطناعي ذات أهمية بالغة، لا سيما في سياق المهن مثل الجراحة، حيث يفترض التنوع دوراً محورياً في تسهيل الممارسات المبتكرة وإنشاء نظام رعاية صحية عادل ومتاح للجميع. 

تؤكد الرسالة الواضحة المستخلصة من هذه الدراسة الشاملة، دون أدنى شك، على الحاجة الملحة لتنفيذ سريع لإجراءات حماية قوية وأنظمة تغذية راجعة معقدة. تُعد هذه التدابير ضرورية لمنع التدهور غير المقصود للصور النمطية الراسخة، وتجنب المساهمة غير المقصودة في استمرار التحيزات المتجذرة في المجالات المهنية من خلال تقنية توليد الصور من النصوص بالذكاء الاصطناعي.

التخفيف من تحيز مولدات صور الذكاء الاصطناعي من أجل بيئات مهنية شاملة

بينما نتنقل في المشهد المتطور باستمرار للذكاء الاصطناعي، تثير الدراسة أسئلة عميقة وحرجة حول الآثار الأخلاقية لمولدات صور الذكاء الاصطناعي المتحيزة. كيف يمكننا ضمان ألا تعزز هذه التقنيات عن غير قصد الصور النمطية القائمة وتساهم في نقص تمثيل فئات معينة، مما يديم الفوارق في البيئات المهنية؟ إن النداء الحازم لوضع ضوابط وأنظمة تغذية راجعة يصبح ليس فقط ضرورياً، بل واجباً أخلاقياً لمعالجة التحديات المتعددة الأوجه التي تطرحها مولدات الصور من النصوص بالذكاء الاصطناعي، وتعزيز العدالة والدقة والشمول في تصوير البيئات المهنية المتنوعة.