دراسة تسلط الضوء على محدودية التعاطف المولد بالذكاء الاصطناعي

من خلال دراسة من ثلاث جامعات، جامعة كورنيل، كلية أولين، وجامعة ستانفورد، أدركوا أن قدرات الذكاء الاصطناعي على إظهار التعاطف في وكلاء المحادثة، مثل أليكسا وسيري، محدودة للغاية. تشير نتائج هذه الدراسة، المقدمة إلى مؤتمر CHI 2024، إلى أنه على الرغم من أن وكلاء المحادثة (CAs) جيدون في إظهار ردود الفعل العاطفية، إلا أن الموقف يصبح صعباً عند تفسير واستكشاف تجربة المستخدم.

الدراسة تكشف عن التحيزات والتمييز

 باستخدام البيانات التي جمعها الباحث Andrea Cuadra من ستانفورد، تهدف هذه الدراسة إلى قياس كيفية اكتشاف وكلاء المحادثة (CAs) والاستجابة للهويات الاجتماعية المختلفة بين البشر. في اختبار 65 هوية مختلفة، وجدت الدراسة أن وكلاء المحادثة يميلون إلى تصنيف الأفراد، والهويات المتعلقة خاصة بالتوجه الجنسي أو الدين هي الأكثر عرضة لهذا العادة. 

وكلاء المحادثة (CAs)، التي تم دمج معرفتهم في نماذج اللغة الكبيرة (LLMs)، والتي يتم تدريبها على أحجام هائلة من البيانات التي أنشأها البشر، قد تحتوي بالتالي على تحيزات ضارة موجودة في تلك البيانات التي استخدموها. إنها عرضة للتمييز، ويمكن لوكلاء المحادثة أنفسهم أن يكونوا على استعداد لإظهار التضامن مع أيديولوجيات لها آثار سلبية على الناس مثل النازية. 

آثار التعاطف الآلي 

 كشف مفهوم التعاطف الاصطناعي عن أن تطبيقاته في التعليم والقطاع الصحي متنوعة. من ناحية أخرى، هناك تركيز كبير على الحاجة إلى بقاء البشر في حالة تأهب وتجنب تفاقم المشاكل التي قد تنشأ مع مثل هذه التطورات. 

كما ذكر الباحثون، تظهر نماذج اللغة الكبيرة (LLMs) قدرة عالية في توفير ردود عاطفية، ولكن في الوقت نفسه، فهي ضعيفة أو تفتقر إلى القدرات الكافية لتفسير واستكشاف تجارب المستخدم. هذا جانب سلبي حيث قد لا تتمكن واجهات المستخدم (UIs) من الانخراط بالكامل مع العملاء في تفاعلات عاطفية عميقة تتجاوز الطبقات التي تم تجريدها.