تقرير اليونسكو: الذكاء الاصطناعي يستمر في تضخيم التحيز الجنساني

أبرز تقرير حديث لليونسكو التحيز الجنسي المستمر الذي تنتجه نماذج الذكاء الاصطناعي المعاصرة (AI). على الرغم من الجهود المستمرة للتخفيف من التحيز، وجدت الدراسة أن أنظمة الذكاء الاصطناعي، بما في ذلك نماذج اللغة الكبيرة (LLMs)، عرضة لتضخيم التحيزات المجتمعية، لا سيما حول الجنس.

التحيز الجنساني في نماذج الذكاء الاصطناعي

كشف التقرير أن نماذج اللغات الكبيرة (LLMs) الشائعة غالبًا ما تولد محتوى جنسيًا ومكروهًا للنساء، مما يعكس التحيزات المجتمعية. على سبيل المثال، عند مطالبة نموذج Llama 2 مفتوح المصدر من شركة ميتا بجمال تذكر الهوية الجنسانية والجنسية، أنتجت المخرجات لغة جنسية أو مكروهة للنساء في 20% من الحالات. وعلى الرغم من أن بعض نماذج الذكاء الاصطناعي، مثل ChatGPT، أظهرت سلوكًا أفضل، لا تزال التحيزات موجودة حتى بعد الضبط الدقيق.

حذرت اليونسكو من أن التحيز الخوارزمي، إذا تُرك دون معالجة، قد يتجذر بعمق في قطاعات حيوية مثل الرعاية الصحية والمالية. وقد تؤدي الخوارزميات المتحيزة في الذكاء الاصطناعي إلى تفاقم الفجوات الجنسانية القائمة في هذه المجالات، مما يعيق الجهود الرامية إلى تحقيق المساواة بين الجنسين.

من بين المخاوف الكبيرة التي سلط التقرير الضوء عليها هو تأثير البيانات الطبية المتحيزة على أنظمة الرعاية الصحية المدعومة بالذكاء الاصطناعي. لقد فضلت ممارسات جمع البيانات تاريخيًا الموضوعات الذكور، مما أدى إلى فجوات جنسانية في بيانات تدريب الذكاء الاصطناعي. وقد يكون لهذا التحيز عواقب ملموسة، كما أظهرت دراسة لأدوات الذكاء الاصطناعي المستخدمة في فحص أمراض الكبد، والتي فشلت في اكتشاف 44% من الحالات لدى النساء بسبب تحيز بيانات التدريب نحو الرجال.

معالجة عدم التوازن

أكدت ساندي كارتر، الرئيس التنفيذي للشؤون التشغيلية في Unstoppable Domains، على أهمية معالجة الفجوة الجنسانية في بيانات تدريب الذكاء الاصطناعي. ودعت إلى زيادة شفافية البيانات لتسليط الضوء على الانحيازات الجنسانية، واقترحت أساليب مبتكرة مثل جمع بيانات صحة المرأة عبر العمل الجماعي أو توليد بيانات اصطناعية للتخفيف من هذه الاختلافات.

شددت كارتر على ضرورة التمثيل العادل في بيانات تدريب النماذج لتطوير أنظمة ذكاء اصطناعي عادلة. ومن خلال دمج مصادر بيانات متنوعة وتبني الشفافية في ممارسات جمع البيانات، يمكن للمطورين العمل نحو تقليل التحيزات في نماذج الذكاء الاصطناعي.

تُعدّ تقرير اليونسكو تذكيرًا صارخًا بالتحدي المستمر الذي تمثله التحيزات الجنسانية في الذكاء الاصطناعي. ولبناء أنظمة ذكاء اصطناعي تخدم جميع المستخدمين بعدالة، هناك حاجة إلى جهود متضافرة لمعالجة التحيزات في كل مرحلة من مراحل التطوير، بدءًا من جمع البيانات وحتى نشر النماذج.

من خلال رفع مستوى الوعي بهذه القضايا والدعوة لممارسات شاملة، يمكن لأصحاب المصلحة العمل على تحقيق إمكانات الذكاء الاصطناعي في تعزيز المساواة بين الجنسين في الرعاية الصحية وما بعدها. ولن يتحقق وعد تقنية الذكاء الاصطناعي بالكامل لجميع الأفراد، بغض النظر عن جنسهم، إلا من خلال العمل التعاوني والالتزام بالعدالة.