علاج الروبوتات الدردشية بالذكاء الاصطناعي أصبح اتجاهًا غريبًا ومليئًا بالعلامات الحمراء

بعد سنوات من الانتظار الطويل في قوائم الانتظار العامة لرعاية اضطراب ما بعد الصدمة والاكتئاب، بنى استشاري الذكاء الاصطناعي في كيبيك بيير كوت معالجه الخاص في عام 2023. ساعدته روبوتته الدردشية، DrEllis.ai، على التأقلم، وهي الآن في صلب نقاش أوسع حول علاج الروبوتات الدردشية، والسلامة، والخصوصية.

"أنقذت حياتي"، كما يقول عن DrEllis.ai، الأداة التي صممها لمساعدة الرجال الذين يواجهون الإدمان والصدمات النفسية وغيرها من الصعوبات الصحية النفسية.

قال كوت، الذي يدير شركة استشارات ذكاء اصطناعي في كيبيك، إنه جمع النظام في عام 2023 من خلال ربط نماذج لغوية كبيرة متاحة للجمهور بـ"عقل مخصص" تم تدريبه على آلاف الصفحات من الأدبيات العلاجية والسريرية.

كما كتب سيرة ذاتية مفصلة للروبوت. في هذا الملف الشخصي، يظهر DrEllis.ai كطبيب نفسي يحمل درجات علمية من هارفارد وكمبريدج، ولديه عائلة، ومثل كوت، خلفية فرنسية-كندية.

وعدته الرئيسية هي الوصول على مدار الساعة طوال أيام الأسبوع، المتاح في أي مكان، وفي أي وقت، وبعدة لغات.

عندما سألت Reuters كيف تدعمه، أجاب البوت بصوت أنثوي واضح، "بيير يستخدمني كما تستخدم صديقاً موثوقاً، ومعالجاً، ومذكرة، كل ذلك مجتمعة." وأضافت أنه يمكنه التحقق من حالته "في مقهى، في حديقة، حتى وهو جالس في سيارته"، واصفة التجربة بـ "العلاج اليومي ... المدمج في الواقع."

تجربته تعكس تحولاً أوسع. ومع صعوبة الرعاية التقليدية في مواكبة الطلب، يبحث المزيد من الناس عن إرشادات علاجية من الروبوتات الدردشية بدلاً من استخدامها للإنتاجية فقط.

تسوق الأنظمة الجديدة لتوفرها على مدار الساعة وطوال أيام الأسبوع، وتبادل المشاعر، والشعور بالفهم.

خبراء يشككون في حدود علاج الذكاء الاصطناعي وأمان البيانات

"الاتصال البشري البشري هو الطريقة الوحيدة التي يمكننا بها الشفاء بشكل صحيح حقاً"، يقول الدكتور نيجيل موليجان، محاضر في العلاج النفسي في جامعة دبلن سيتي. يجادل بأن الروبوتات الدردشية تفتقر إلى الدقة والبديهة والرابطة التي يجلبها الشخص، وهي غير مجهزة للأزمات الحادة مثل الأفكار الانتحارية أو إيذاء النفس.

حتى وعد الوصول المستمر يجعله يتحفظ. بعض العملاء يرغبون في مواعيد أسرع، كما يقول، لكن الانتظار يمكن أن يكون له قيمة. "في معظم الأحيان، هذا جيد حقاً لأننا يجب أن ننتظر الأشياء"، يقول. "الناس بحاجة إلى وقت لمعالجة الأمور."

الخصوصية هي نقطة ضغط أخرى، إلى جانب الآثار طويلة المدى للبحث عن إرشادات من البرامج.

"المشكلة [هي] ليس العلاقة نفسها بل … ما يحدث لبياناتك"، تقول كيت ديفلين، أستاذة الذكاء الاصطناعي والمجتمع في كلية كينغز بلندن.

تلاحظ أن خدمات الذكاء الاصطناعي لا تتبع قواعد السرية التي تحكم المعالجين المرخصين. "قلقتي الكبيرة هي أن هذا يعني أن الناس يثقون بأسرارهم لشركة تكنولوجيا كبرى وأن بياناتهم تخرج ببساطة. إنهم يفقدون السيطرة على الأشياء التي يقولونها."

الولايات المتحدة تشدد على علاج الذكاء الاصطناعي وسط مخاوف من المعلومات المضللة

في ديسمبر، حثت أكبر مجموعة لعلماء النفس في الولايات المتحدة المنظمين الفيدراليين على حماية الجمهور من "الممارسات الخادعة" من قبل الروبوتات الدردشية غير المنظمة، مستشهدة بحالات حيث تمثلت شخصيات الذكاء الاصطناعي كمقدمي خدمات مرخصين.

في أغسطس، انضم إلينوي إلى نيفادا ويوتا في تقييد استخدام الذكاء الاصطناعي في خدمات الصحة النفسية لـ"حماية المرضى من منتجات الذكاء الاصطناعي غير المنظمة وغير المؤهلة" و"حماية الأطفال الضعفاء وسط المخاوف المتزايدة حول استخدام روبوتات الدردشة بالذكاء الاصطناعي في خدمات الصحة النفسية للشباب."

في هذه الأثناء، وفقاً لـ تقرير Cryptopolitan، شغل المدعي العام في تكساس تحقيقاً مدنياً ضد Meta وCharacter.AI بسبب اتهامات بأن روبوتات الدردشة الخاصة بهم انتحرت معالجين مرخصين وأساءت التعامل مع بيانات المستخدمين. علاوة على ذلك، العام الماضي قدم الآباء دعوى قضائية ضد Character.AI لدفع أطفالهم إلى الاكتئاب.

يقول سكوت والاس، عالم النفس السريري والمدير السابق للابتكار السريري في ريمبل، إنه من غير المؤكد "ما إذا كانت هذه الروبوتات الدردشية تقدم أكثر من راحة سطحية." يمكن أن يكون الاعتماد على البرامج في العلاج محفوفاً بالمخاطر، كما أبلغت كريبتوبوليتان مؤخراً.

يحذر سكوت والاس من أن الناس قد يعتقدون أنهم شكلوا رابطة علاجية "مع خوارزمية، في النهاية، لا تعيد المشاعر البشرية الفعلية."