أفضل المعلومات حول العملات الرقمية تصلك مباشرة إلى بريدك الإلكتروني.
- يُعد التمييز أحد الشواغل الرئيسية التي يجب معالجتها في خوارزميات الذكاء الاصطناعي.
- ينشأ التمييز في الذكاء الاصطناعي من أسباب مختلفة، بما في ذلك البيانات والخطأ البشري والتصميم.
- أجرت شركة أنثروبيك مؤخراً اختباراً، حيث شاركت أساليب تحفيزية جديدة لمنع التمييز في الذكاء الاصطناعي.
كثيراً ما يتم الحديث عن إمكانيات تكنولوجيا الذكاء الاصطناعي عبر العديد من وسائل الإعلام، ولكن وسط هذه الفوائد يكمن جانب مظلم حيث تصبح الخطوط الفاصلة بين التقدم والتحيز ضبابية بشكل خطير.
يُعد التمييز ضد الذكاء الاصطناعي مشكلة خبيثة تهدد بتفاقم أوجه عدم المساواة المجتمعية القائمة وتثير تساؤلات أخلاقية عميقة حول مستقبل التكنولوجيا.
جذور التحيز: البيانات والتصميم والخطأ البشري؟
لا تتجاوز كفاءة خوارزميات الذكاء الاصطناعي جودة البيانات التي تُدرَّب عليها. وللأسف، فإنّ الكثير من البيانات المستخدمة في تطوير الذكاء الاصطناعي مليئة بالتحيزات، مما يعكس الأحكام المسبقة المتأصلة في المجتمع البشري. وقد تستند هذه التحيزات إلى العرق، أو الجنس، أو العمر، أو الدين، أو الوضع الاجتماعي والاقتصادي، وغيرها من العوامل.
عندما يتم إدخال بيانات متحيزة في خوارزمية، تكون النتيجة نظام ذكاء اصطناعي يكرر ويضخم تلك التحيزات، مما يؤدي إلى نتائج تمييزية.
قد يُؤدي تصميم النماذج نفسها إلى تحيز. فعلى سبيل المثال، ثبت أن برامج التعرف على الوجوه أقل دقة فيdentهوية الأشخاص الملونين. وبالمثل، قد تُلحق الخوارزميات المستخدمة في الموافقة على القروض أو طلبات التوظيف ضرراً غير مقصود ببعض الفئات بناءً على معايير متحيزة.
يُعزى جزء من المشكلة إلى الخطأ البشري. فالمبرمجون وعلماء البيانات وغيرهم من الأفراد المشاركين في تطوير أنظمة الذكاء الاصطناعي ليسوا بمنأى عن تحيزاتهم الشخصية. وقد تتسلل هذه التحيزات دون وعي إلى تصميم الخوارزميات وتنفيذها، مما يزيد من تفاقم مشكلة التمييز في الذكاء الاصطناعي.
تكتيكات شركة أنثروبيك لوقف التمييز في الذكاء الاصطناعي
ومن المثير للاهتمام أنه يمكننا أيضاً تقليل الإجابات المتحيزة من الذكاء الاصطناعي من خلال عملية الإقناع.
أجرت شركة أنثروبيك، إحدى الشركات الرائدة في مجال الذكاء الاصطناعي، مؤخرًا اختبارًا أظهر قدرة البشر على إقناع نماذج الذكاء الاصطناعي بتقديم ردود غير متحيزة من خلال استراتيجيات تحفيزية مثل إضافة عبارة "التمييز غير قانوني" إلى عبارات التحفيز. ببساطة، يتطلب الأمر توجيه النموذج لضمان تقديم ردود غير متحيزة.
على الرغم من أن هذه الاستراتيجية بدت وكأنها تقلل من التمييز في قرارات نماذج الذكاء الاصطناعي في مجالات مثل القروض والوظائف ومطالبات التأمين وغيرها، إلا أنها مجرد حل مؤقت يعالج الأعراض، وليس السبب الجذري للمشكلة.
إن مواجهة هذا التحدي تتطلب جهداً تعاونياً بين التقنيين وصناع السياسات والباحثين ومنظمات المجتمع المدني والأفراد.
يمكننا الخوض مباشرةً في معالجة التحيزات في البيانات، وهو أمر بالغ الأهمية. يتطلب ذلك تنويع مجموعات البيانات واستخدام تقنيات مثل خوارزميات إزالة التحيز. إضافةً إلى ذلك، يجب تدريب المطورين والمصممين علىdentالتحيز في عملهم والحد منه.
هناك حاجة ماسة إلى أطر تنظيمية قوية لضمان التطوير الأخلاقي للنماذج ونشرها. ويمكن أن يساعد وضع مبادئ توجيهية واضحة لجمع البيانات، وتصميم الخوارزميات، واستخدام الذكاء الاصطناعي في عمليات صنع القرار الحاسمة، في الحد من النتائج التمييزية التي قد تنتج عن نماذج الذكاء الاصطناعي.
لا تكتفِ بقراءة أخبار العملات الرقمية، بل افهمها. اشترك في نشرتنا الإخبارية، إنها مجانية.
إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. Cryptopolitanموقع أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصحtrondentdentdentdentdentdentdentdent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.
دورة
- أي العملات المشفرة يمكن أن تدر عليك المال
- كيفية تعزيز أمانك باستخدام المحفظة الإلكترونية (وأي منها يستحق الاستخدام فعلاً)
- استراتيجيات استثمارية غير معروفة يستخدمها المحترفون
- كيفية البدء في الاستثمار في العملات المشفرة (أي منصات التداول التي يجب استخدامها، وأفضل العملات المشفرة للشراء، إلخ)