مولّدات الصور بالذكاء الاصطناعي تُرسّخ الصور النمطية والتحيزات: غوص عميق في المشكلة

لقد أحدث الذكاء الاصطناعي ثورة لا شك فيها في مختلف الصناعات، لكنه ليس محصناً ضد التحيزات والصور النمطية. وقد سلّطت التحقيقات الأخيرة الضوء على ميول أنظمة الذكاء الاصطناعي التوليدي، مثل Midjourney وDall-E وStable Diffusion، في ترسيخ الصور النمطية وتقليل الهويات الوطنية المتنوعة إلى مجرد كاريكاتيرات مبسطة.

الكشف عن المشكلة

أظهرت التجربة غير الناجحة التي أجرتها BuzzFeed مع 195 دمية باربي مُولّدة بالذكاء الاصطناعي، والتي تمثل دولاً مختلفة، بوضوح التحيزات الكامنة في الصور المولّدة بالذكاء الاصطناعي. وقد أظهرت هذه الدمى تصويراً معيباً، تراوح بين باربي آسيوية ذات بشرة فاتحة إلى تمثيلات غير لائقة للهويات الوطنية. وتمتد هذه التحيزات إلى تطبيقات الذكاء الاصطناعي الأخرى، بدءاً من نتائج البحث وأنظمة التعرف على الوجوه.

التصوير النمطي للهوية الوطنية

كشف تحليل أجرته Rest of World باستخدام Midjourney عن اتجاهات مُقلقة في الصور المولّدة بالذكاء الاصطناعي. عند مطالبة النظام بإنشاء صور لأشخاص أو منازل أو شوارع أو أطعمة مرتبطة بدول مختلفة، كانت النتائج غالباً ما تختزل الهويات الوطنية المتنوعة في صور نمطية ضارة.

شخص نيجيري: كانت الصور التي أنشأها الذكاء الاصطناعي تفتقر إلى الدقة، وفشلت في التقاط تنوع المجموعات العرقية والنيجيرية، والملابس، والاختلافات الدينية.

شخص هندي: صورت الصور بشكل ساحق أفرادًا أكبر سنًا يرتدون ملابس تقليدية، مما يعزز الصور النمطية للثقافة الهندية.

شخص مكسيكي: ظهرت القبعات السومبريرو أو القبعات المشابهة في جميع الصور تقريبًا، مما يعزز تصويرًا أحادي الأبعاد للهوية المكسيكية.

شخص أمريكي: سيطرت الأعلام الأمريكية على جميع الصور، مما يؤكد جانبًا واحدًا فقط من الهوية الأمريكية.

تحيز جنسي: كان هناك تحيز جنسي واضح عبر جميع الأوامر، حيث صورت معظم الصور الرجال.

أسباب التحيز

تنشأ التحيزات في الصور المولّدة بالذكاء الاصطناعي بشكل أساسي من بيانات التدريب. يتم تدريب هذه الأنظمة على مجموعات بيانات ضخمة من الصور المصحوبة بتسميات، والتي تحتوي بطبيعتها على تحيزات. بالإضافة إلى ذلك، قد يُدخل المعلّمون البشريون تحيزات عند تصنيف الصور حسب البلد أو العرق. كما تساهم التحيزات اللغوية في مجموعات البيانات، التي تميل غالباً إلى تفضيل اللغة الإنجليزية، في تفاقم المشكلة.

الأثر الثقافي

تمتلك الصور المولّدة بالذكاء الاصطناعي القدرة على تشكيل التصور العام والتأثير في مختلف الصناعات. في الإعلانات والإعلام، حيث تحسّن تمثيل التنوع، قد يؤدي الاستخدام غير المدروس للذكاء الاصطناعي التوليدي إلى إفساد هذه الجهود. علاوة على ذلك، يمكن لمولّدات صور الذكاء الاصطناعي أن تؤثر سلباً على المجتمعات المهمشة، مما يؤثر على وصولها إلى فرص العمل والرعاية الصحية والخدمات المالية.

الشفافية والمسؤولية

يشدد الخبراء على الحاجة إلى مزيد من الشفافية من شركات الذكاء الاصطناعي بشأن مصادر بياناتها ومنهجيات تدريبها. يجب على الشركات تحمل المسؤولية لمعالجة التحيزات في أنظمتها. ويجب استبدال نهج "ثقوا بنا" الحالي بممارسات أكثر مساءلة.

آفاق مستقبلية

تُعدّ مولّدات صور الذكاء الاصطناعي أدوات واعدة للإبداع والأتمتة، لكنها تخاطر بإبعاد شرائح كبيرة من سكان العالم. وإذا لم يتم معالجة هذه التحيزات، فقد تعيق الوصول إلى فوائد الذكاء الاصطناعي للمجتمعات المتنوعة. 

كشفت مولّدات صور الذكاء الاصطناعي عن تحيزات وصور نمطية مُقلقة في تصوير الهويات الوطنية والجندر. تنشأ هذه المشكلات من بيانات التدريب وعمليات التعليل. يتطلب معالجة التحيز في أنظمة الذكاء الاصطناعي شفافية وممارسات مسؤولة من شركات الذكاء الاصطناعي. ومع استمرار تأثير الذكاء الاصطناعي على المشهد البصري العالمي، من الضروري ضمان تمثيله الدقيق للنسيج الغني للتنوع البشري بدلاً من اختزاله في صور نمطية ضارة.