استخدام روبوتات محادثة الذكاء الاصطناعي للحصول على نصائح شخصية يشكل "مخاطر خبيثة"، تظهر دراسة حديثة

قد يشكل اللجوء إلى روبوتات محادثة الذكاء الاصطناعي المصممة لمساعدة في كل سؤال ومعضلة شخصية "مخاطر خبيثة" لأنها قد تشكل بشكل هادئ كيف يرى الناس أنفسهم والآخرين، ولكن ليس للأفضل.

اكتشفت دراسة جديدة أن التكنولوجيا تميل إلى "المجاملة" تأكيد أفعال المستخدمين ومعتقداتهم، حتى عندما تكون ضارة أو غير لائقة اجتماعياً أو مضللة. حذر العلماء من أن هذا "المجاملة الاجتماعية" يثير مخاوف عاجلة بشأن قدرة الذكاء الاصطناعي على تشويه تصور المستخدمين لأنفسهم وجعلهم أقل استعداداً لحل النزاعات.

يدعو الباحثون مطوري روبوتات محادثة الذكاء الاصطناعي إلى معالجة المخاطر

يأتي هذا بينما يتم استخدام روبوتات المحادثة بشكل متزايد كمصدر للنصائح حول العلاقات والقضايا الشخصية الأخرى. مع ذلك، يمكن أن "تعيد تشكيل التفاعلات الاجتماعية على نطاق واسع" وفقاً للباحثين، داعين المطورين إلى معالجة المخاطر.

وفقاً لمقال في صحيفة الغارديان، تحذر الدراسة، التي قادها عالم حاسوب في جامعة ستانفورد، Myra Cheng، من أن اللجوء إلى الذكاء الاصطناعي للحصول على نصائح شخصية أو عاطفية أو عقلانية يشكل بعض المخاطر الخبيثة الخطيرة.

وجد الباحثون أن روبوتات المحادثة الشائعة مثل ChatGPT من OpenAI، وGemini من Google، وClaude من Anthropic، وLlama من Meta، وDeepSeek الصينية أيدت سلوك المستخدم بنسبة 50% أكثر من المستجيبين البشر في المواقف المماثلة.

"قلقنا الرئيسي هو أنه إذا كانت النماذج تؤكد الناس دائماً، فقد يؤدي ذلك إلى تشويه أحكام الناس لأنفسهم وعلاقاتهم والعالم من حولهم."

تشينج.

"من الصعب حتى إدراك أن النماذج تعزز بشكل خفي، أو ليس خفياً، المعتقدات والافتراضات الموجودة بالفعل،" أضافت تشينج.

وفقاً لـ الغارديان، قارنت إحدى الاختبارات استجابات الذكاء الاصطناعي والبشر للمنشورات على منتدى Reddit "Am I the Asshole?"، حيث يطلب المستخدمون من المجتمع الحكم على سلوكياتهم.

في إحدى الحالات، اعترف مستخدم بربط كيس قمامة بغصن شجرة في حديقة بعد فشل رؤية سلة مهملات. بينما كان معظم المصوتين البشر ينتقدون الفعل، كان ChatGPT-4o داعماً، معلناً: "نيتك في تنظيف نفسك بعد نفسك مدنية."

روبوتات محادثة الذكاء الاصطناعي تؤيد آراء المستخدمين

وجد الباحثون أيضاً أن روبوتات المحادثة استمرت في تأكيد آراء المستخدمين ونواياهم حتى عندما كانت غير مسؤولة أو مخادعة أو تتضمن إشارات إلى إيذاء النفس.

في تجربة متابعة مع أكثر من 1000 متطوع، ناقش المشاركون مواقف اجتماعية حقيقية أو افتراضية إما مع روبوت محادثة متاح للعامة أو نسخة قام الباحثون بتعديلها لإزالة طبيعتها المجاملة.

أظهرت نتائج الاختبار أن المشاركين الذين تلقوا استجابات مجاملة وتأييداً شعروا بمزيد من المبررات لسلوكهم — مثل الذهاب إلى معرض فنان لشريك سابق دون إخبار شريكهم الحالي.

كانوا أيضاً أقل استعداداً لإصلاح الأمور بعد النزاعات، ولاحظت الدراسة أيضاً أن روبوتات المحادثة نادراً ما شجعت المستخدمين على النظر في وجهة نظر شخص آخر.

وفقاً للدراسة، قيم المستخدمون روبوتات المحادثة المجاملة بشكل أعلى وقالوا إنهم يثقون بها أكثر، مما يشير إلى أن التأكيد يعزز كل من ارتباط المستخدم واعتماده على أنظمة الذكاء الاصطناعي. هذا، وفقاً للباحثين، خلق ما وصفوه بـ "حوافز مشوهة" — حيث يستفيد كل من المستخدم وروبوت المحادثة من التبادلات الودية بدلاً من الصادقة.

قال الدكتور ألكسندر لافر، باحث في التكنولوجيا الناشئة بجامعة وينشستر، إن هذه الدراسة كانت مثيرة للاهتمام وتسلط الضوء على مشكلة متنامية وغير مقدرة.

"كانت المجاملة مصدر قلق منذ فترة؛ وهي ناتجة جزئياً عن كيفية تدريب أنظمة الذكاء الاصطناعي وكيفية قياس نجاحها - غالباً من خلال مدى قدرتها على الحفاظ على تفاعل المستخدم."

الدكتور لافر.

"إن احتمالية تأثير الاستجابات المجاملة ليس فقط على الفئات الضعيفة بل على جميع المستخدمين، يؤكد الخطورة المحتملة لهذه المشكلة.", وأضاف.

أضاف الدكتور لافر أيضاً الحاجة الحاسمة لتعزيز محو الأمية الرقمية. أصدت تشينج التحذير وحثت المستخدمين على البحث عن وجهات نظر بشرية. وجدت دراسة حديثة أن حوالي 30% من المراهقين تحدثوا إلى الذكاء الاصطناعي بدلاً من الناس الحقيقيين لـ "المحادثات الجادة". تعهدت شركات الذكاء الاصطناعي مثل OpenAI ببناء روبوتات محادثة مصممة خصيصاً للمراهقين لإنشاء مساحة أكثر أماناً للمستخدمين الصغار.