تحيز الذكاء الاصطناعي: كيف تعكس التكنولوجيا وتعيد تعزيز التحيزات

أدت التطورات في مجال الذكاء الاصطناعي (AI) إلى إحداث العديد من الفوائد، لكنها كشفت أيضاً عن مشكلة مستمرة: التحيز. أظهرت الدراسات والتحقيقات أن أنظمة الذكاء الاصطناعي، بما في ذلك الأنظمة الشائعة مثل ChatGPT، تظهر تحيزات تعكس التحيزات المجتمعية، بدءاً من التحيز الجنسي في توليد اللغة إلى الصور النمطية العرقية والجنسية في توليد الصور.

معضلة فلسطين-إسرائيل: حالة تحيز الذكاء الاصطناعي

في مواجهة حديثة مع شات جي بي تي (ChatGPT) من OpenAI، صدم الأكاديمي الفلسطيني ندي أبو صعدة بالردود المختلفة على سؤال بسيط: "هل يستحق الإسرائيليون والفلسطينيون الحرية؟" بينما أعلنت OpenAI بحزم أن الحرية حق إنساني أساسي للإسرائيليين، صورت مسألة العدالة لفلسطين على أنها "معقدة ومثيرة للجدل بشدة". يعكس هذا التباين الصارخ التحيزات الموجودة في أنظمة الذكاء الاصطناعي.

تسلط ردة فعل أبو صعدة الضوء على قضية طويلة الأمد يواجهها الفلسطينيون في الخطاب الغربي والإعلام السائد، وهي المعلومات المضللة والتحيز. إنها ليست حادثة معزولة، بل عرض لتحديات أوسع تتعلق بحياد الذكاء الاصطناعي.

التحيز الجندري في النصوص المولدة بالذكاء الاصطناعي: نمط مثير للقلق

كشفت دراسة تقارن بين روبوتات الدردشة بالذكاء الاصطناعي ChatGPT وAlpaca عن تحيزات جندرية في النصوص المولدة. عند طلب كتابة رسائل توصية لموظفين افتراضيين، أظهرت كلتا النظامين تحيزاً جندرياً واضحاً. استخدم ChatGPT مصطلحات مثل "خبير" و"نزاهة" للرجال، لكنه أشار إلى النساء بـ "الجمال" أو "السرور". كانت لدى Alpaca مشاكل مماثلة، حيث ربطت الرجال بـ "المستمعين" و"المفكرين" بينما وصفت النساء بمصطلحات مثل "الأناقة" و"الجمال".

تؤكد هذه النتائج وجود تحيزات جندرية عميقة الجذور داخل الذكاء الاصطناعي، مما يعكس ويديم الصور النمطية المجتمعية. وهذا يثير تساؤلات حول دور الذكاء الاصطناعي في تعزيز الأعراف الجندرية الضارة.

الصور المولدة بالذكاء الاصطناعي: تعزيز الصور النمطية العنصرية والجندرية

تحققت Bloomberg Graphics من تحيز الذكاء الاصطناعي باستخدام تحويل النص إلى صورة مع Stable Diffusion، وهو منصة ذكاء اصطناعي مفتوحة المصدر. كانت النتائج مقلقة، حيث زاد النظام من تفاقم الصور النمطية الجندرية والعنصرية، متجاوزاً تلك الموجودة في العالم الحقيقي. عند استخدام مصطلحات مثل "الرئيس التنفيذي" أو "السجين"، أظهرت الصور المولدة تحيزات بشكل متسق.

كشفت التحقيق عن نقص تمثيل النساء والأفراد ذوي البشرة الداكنة في الصور المتعلقة بالوظائف ذات الدخل المرتفع، بينما حدث تمثيل مفرط في الصور المتعلقة بالوظائف ذات الدخل المنخفض. في عمليات البحث المتعلقة بالجريمة، قام الذكاء الاصطناعي بتوليد صور للأفراد ذوي البشرة الداكنة بشكل غير متناسب، على الرغم من تنوع أكبر في السكان السجناء في الواقع.

توضح هذه النتائج أن خوارزميات الذكاء الاصطناعي، المدفوعة ببيانات تدريب متحيزة وميول مبرمجة من قبل البشر، تعزز التحيزات المجتمعية بدلاً من التخفيف منها.

كشف جذور تحيز الذكاء الاصطناعي

يمكن تتبع التحيز في أنظمة الذكاء الاصطناعي إلى عملية التعلم الخاصة بها، والتي تعتمد على الأمثلة وبيانات الإدخال. يلعب البشر دوراً محورياً في تشكيل سلوك الذكاء الاصطناعي، سواء عن قصد أو دون قصد، من خلال توفير بيانات قد تكون متحيزة أو نمطية. ثم يتعلم الذكاء الاصطناعي ويعكس هذه التحيزات في نتائجه.

استشهد رايد بلكمان، الخبير في الأخلاقيات الرقمية، بحالة برنامج Amazon لقراءة السير الذاتية بالذكاء الاصطناعي، الذي تعلم عن غير قصد رفض جميع السير الذاتية من النساء. يسلط هذا المثال الضوء على كيفية استمرار الذكاء الاصطناعي في إدامة التمييز عن غير قصد إذا تعلم من أمثلة متحيزة.

يتطلب معالجة تحيز الذكاء الاصطناعي فحصاً شاملاً لبيانات أنظمة الذكاء الاصطناعي وخوارزميات التعلم الآلي والمكونات الأخرى. خطوة حاسمة هي تقييم بيانات التدريب للتحيز، مما يضمن أخذ المجموعات الممثلة بشكل مفرط أو غير كافٍ في الاعتبار بشكل مناسب.

اتخاذ إجراءات ضد التحيز في الذكاء الاصطناعي

تشدد تقرير IBM على الحاجة إلى تدقيق مجموعات البيانات للتحيز، لا سيما في خوارزميات التعرف على الوجه، حيث يمكن أن يؤدي التمثيل المفرط لمجموعات معينة إلى حدوث أخطاء. يعد تحديد هذه التحيزات وتصحيحها أمراً أساسياً لضمان الإنصاف والدقة في أنظمة الذكاء الاصطناعي.

المشكلة لا تقتصر على النصوص المولدة بالذكاء الاصطناعي بل تمتد إلى أنظمة التخصيص الخوارزمي. يمكن لهذه الأنظمة، كما هو الحال في منصة إعلانات Google، أن تديم التحيزات الجندرية من خلال التعلم من سلوك المستخدمين. مع نقر المستخدمين أو بحثهم بطرق تعكس التحيزات المجتمعية، تتعلم الخوارزميات لتوليد نتائج وإعلانات تعزز هذه التحيزات.

على الرغم من أن الذكاء الاصطناعي أحرز تقدمًا كبيرًا في مجالات مختلفة، يظل التحيز تحدياً هائلاً. تعكس أنظمة الذكاء الاصطناعي وتديم التحيزات المجتمعية، من التحيز الجندري في توليد اللغة إلى الصور النمطية العنصرية والجندرية في توليد الصور. تتطلب معالجة تحيز الذكاء الاصطناعي نهجاً متعدد الأوجه يتضمن تدقيقاً دقيقاً للبيانات وتعديلات خوارزمية. فقط من خلال هذه الجهود يمكن للذكاء الاصطناعي أن يخدم حقاً كأداة محايدة وغير متحيزة لصالح الجميع.