لماذا يُعد التحيز في الذكاء الاصطناعي في صنع القرار هائلاً ومميتاً

يُحدث الذكاء الاصطناعي (AI) ضجة في قطاعات مختلفة، من الرعاية الصحية إلى التمويل. ومع ذلك، برزت مشكلة تحيز الذكاء الاصطناعي كعقبة كبيرة، مما يثير تساؤلات حول مستقبل التكنولوجيا. يجادل الخبراء بأن التحيز، الناتج غالباً عن بيانات تدريبية منحرفة أو غير ممثلة، هو ربما أكبر تحدي يواجهه الذكاء الاصطناعي. 

مشكلة التحيز في الذكاء الاصطناعي

يؤكد آرثر مكابي، المدير التنفيذي لمعهد الحساب والرؤى المعتمدة على البيانات في جامعة أريزونا، أن التحيز ليس مشكلة في حد ذاته. يصبح مشكلة عندما يؤثر نظام متحيز على صنع القرار. 

تحذر ميشيل ساموراني، الأستاذة المساعدة في نظم المعلومات والتحليلات بكلية ليبي للأعمال في جامعة سانتا كلارا، من إمكانية استمرار الذكاء الاصطناعي في إدامة الظلم الاجتماعي. وتوضح ذلك بمثال لجامعة تستخدم الذكاء الاصطناعي لفرز الطلبات. إذا تم تدريب نظام الذكاء الاصطناعي على قرارات القبول السابقة، فستنعكس أي تحيزات بشرية موجودة في تلك القرارات على نتائج الذكاء الاصطناعي.

تأثير تحيز الذكاء الاصطناعي

تلاحظ آلي شيانغ، الرئيسة العالمية لأخلاقيات الذكاء الاصطناعي في مجموعة سوني والعالمة الرئيسية لأبحاث أخلاقيات الذكاء الاصطناعي في سوني آي، أن تحيز الذكاء الاصطناعي يمكن أن يكون له آثار بعيدة المدى. وتقول: "يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تعزز الصور النمطية المجتمعية، أو تميز ضد فئات معينة، أو تديم أوجه عدم المساواة القائمة". ويمكن أن يؤدي ذلك إلى ممارسات تمييزية في مختلف القطاعات، بما في ذلك التوظيف والرعاية الصحية وإنفاذ القانون. وعلاوة على ذلك، يمكن أن يقوض التحيز الثقة في التكنولوجيا ويعيق اعتماد الذكاء الاصطناعي.

معالجة تحدي تحيز الذكاء الاصطناعي

تؤمن شيانغ بأن معالجة تحيز الذكاء الاصطناعي تتطلب نهجاً شاملاً، يبدأ ببيانات تدريب متنوعة وممثلة. وتؤكد على أهمية إشراك أفراد من خلفيات متنوعة في صنع القرار. 

يقترح مكابي أن البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي يجب أن تمثل المجتمع بدقة. وهو يدرك أن هذا قد يكون غير قابل للتحقيق، لذا من الضروري توثيق التحيزات في بيانات التدريب وتقييد استخدام أنظمة الذكاء الاصطناعي المدربة على هذه البيانات في السياقات التي لا تكون فيها هذه التحيزات حاسمة.

تؤمن بينا أمماناث، المديرة التنفيذية لمعهد ديلويت للذكاء الاصطناعي، بأنه على الرغم من صعوبة القضاء على تحيز الذكاء الاصطناعي، إلا أن تقليل آثاره أمر قابل للتحقيق. وتقترح عمليات صارمة لاختبار نماذج الذكاء الاصطناعي والتحقق منها وتقييمها لتحديد التحيزات ومنعها. الطريق 

يعد القضاء على تحيز الذكاء الاصطناعي مهمة شاقة. وتلاحظ شيانغ أن فهم أنظمة الذكاء الاصطناعي، وعواقبها غير المقصودة المحتملة، وكيفية إلحاقها الضرر بالأشخاص، أمر ضروري. وتسلط الضوء على الارتفاع الأخير في فرق أخلاقيات الذكاء الاصطناعي في الشركات التي تدمج الذكاء الاصطناعي في منتجاتها وخدماتها. هذه الفرق مكرسة لتطوير وتنفيذ أفضل ممارسات تطوير وتدريب نماذج الذكاء الاصطناعي.

يشير مكابي إلى تحيز إنشاء مجموعات بيانات كبيرة بما يكفي لتدريب الذكاء الاصطناعي بفعالية وتمثيل السياق الذي سيتم استخدامه فيه. في بعض الحالات، يمكن للمطورين الاكتفاء بمجموعات بيانات "قريبة بما يكفي"، كما هو الحال مع Google Translate.

الحاجة إلى المعايير واللوائح

يؤكد ساموراني على الحاجة المتزايدة إلى معايير ولوائح لمراجعة أنظمة الذكاء الاصطناعي للكشف عن التحيز. وهو متفائل بأن اللوائح وأنظمة المراجعة المناسبة يمكن أن تقلل من تحيز الذكاء الاصطناعي إلى نقطة لم تعد مصدر قلق.

تلاحظ شيانغ أن الجهود جارية لمعالجة تحيز الذكاء الاصطناعي، بما في ذلك عمليات جمع البيانات الأخلاقية، وتطوير مجموعات بيانات تدريب متنوعة، واعتماد مقاييس الإنصاف وأطر التقييم، وتعزيز الشفافية والمساءلة في تطوير ونشر أنظمة الذكاء الاصطناعي.

تؤكد أمماناث على أهمية تثقيف أصحاب المصلحة حول مخاطر تحيز الذكاء الاصطناعي. وتنصح المنظمات بإعطاء الأولوية لتثقيف موظفيها حول أخلاقيات الشركة ومبادئ أخلاقيات الذكاء الاصطناعي.

على الرغم من أن تحيز الذكاء الاصطناعي يمثل تحدياً كبيراً، إلا أنه ليس بالضرورة عيباً قاتلاً في الذكاء الاصطناعي. وبجهود متضافرة، وتقدم تكنولوجي، واللوائح المناسبة، يمكن تقليل آثاره والعمل نحو مستقبل تكون فيه تقنيات الذكاء الاصطناعي أكثر إنصافاً وخالية من التحيز.