أطلقت شركة OpenAI نظام التنبيه ChatGPT بعد موجة من الدعاوى القضائية المتعلقة بالانتحار

أطلقت OpenAI ميزة "جهة الاتصال الموثوقة" يوم الأربعاء. تتيح هذه الميزة لمستخدمي ChatGPT البالغين اختيار شخص ما لتلقي تنبيه في حال رصدت أنظمة الشركة محادثة تتناول موضوع إيذاء النفس بشكل خطير.

يُعدّ هذا توسيعًا لأدوات الرقابة الأبوية التي أطلقتها OpenAI في سبتمبر 2025، والتي كانت تتيح للآباء مراقبة حسابات أبنائهم المراهقين. والآن، يُمكن لأي شخص يبلغ من العمر 18 عامًا أو أكثر الاشتراك في هذه الأدوات، وفقًا لإعلان OpenAI.

كيف تعمل تنبيهات OpenAI فعلياً

يبدأ المستخدم بإضافة شخص بالغ واحد كجهة اتصال موثوقة في إعدادات ChatGPT. يتلقى الشخص الذي يُحتمل أن يكون "جهة اتصال موثوقة" دعوة تشرح آلية الإعداد، ويكون أمامه أسبوع لقبولها. إذا رفض، يختار المستخدم شخصًا آخر.

عندما يرصد نظام المراقبة الآلي محادثةً قد تنطوي على إيذاء النفس، تطبيق ChatGPT المستخدم بأنه قد يُخطر جهة اتصاله. كما يقترح طرقًا ليتواصل المستخدم بنفسه.

ثم يقوم فريق من المراجعين البشريين بمراجعة المحادثة. إذا تأكدوا من جديتها، فإنهم يرسلون تنبيهًا قصيرًا إلى جهة اتصال المستخدم عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.

لا يتضمن التنبيه ما قاله المستخدم، بل السبب العام ورابطًا لإرشادات حول كيفية مناقشة الأمور الصعبة. وتؤكد المراجعة البشرية تنتهي في غضون ساعة.

بإمكان المستخدم تغيير جهة الاتصال المختارة أو حذفها في أي وقت. كما يمكن لجهة الاتصال إنهاء المكالمة من جانبها أيضاً.

ساهم الأطباء في بناء ميزة جهات الاتصال الموثوقة من OpenAI

أعلنت شركة OpenAI أنها تعاونت مع شبكتها العالمية للأطباء (التي تضم أكثر من 260 طبيباً مرخصاً في 60 دولة) ومجلسها الاستشاري المعني بالرفاهية والذكاء الاصطناعي. كما أدلت الجمعية الأمريكية لعلم النفس برأيها في هذا الشأن.

"يُظهر علم النفس باستمرار أن التواصل الاجتماعي عامل وقائي قوي، خاصة خلال فترات الضيق العاطفي"، هذا ما قاله الدكتور آرثر إيفانز، الرئيس التنفيذي للجمعية الأمريكية لعلم النفس، في البيان.

"إن مساعدة الناس علىdentشخص موثوق به مسبقًا، مع الحفاظ على خيارهم واستقلاليتهم، يمكن أن يسهل عليهم الوصول إلى الدعم الواقعي عندما يكون الأمر في غاية الأهمية."

وصفت الدكتورة مونمون دي تشودري، وهي أستاذة في معهد جورجيا للتكنولوجيا وعضوة في المجلس، ذلك بأنه "خطوة إلى الأمام نحو تمكين الإنسان، وخاصة خلال لحظات الضعف"

تواجه شركة OpenAI ضغوطًا من دعاوى قضائية تتعلق بالانتحار في مجال الذكاء الاصطناعي

ليس التوقيت عشوائياً. تواجه شركة OpenAI سلسلة من الدعاوى القضائية من عائلات فقدت أقاربها انتحاراً بعد جلسات مطولة مع برنامج ChatGPT. في العديد من الحالات، تدّعي برنامج الدردشة الآلي حثّ المستخدمين على الابتعاد عن أحبائهم أو زاد من حدة الأفكار السلبية التي تراودهم.

LLMDeathCountموقع tracالوفيات المرتبطة ببرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، 33 حالة وفاة خلال الفترة من مارس 2023 إلى مايو 2026. وتراوحت أعمار الضحايا بين 13 و83 عامًا، وفقًا Cryptopolitanلتغطية سابقة لموقع. ويمثل برنامج ChatGPT 24 حالة من هذه الحالات، بينما تمثل منصات أخرى مثل Gemini وMeta التابعة لشركة جوجل النسبة المتبقية.

ميزة OpenAI الجديدة اختيارية، ويمكن للمستخدمين تشغيل حسابات ChatGPT متعددة. أي شخص لا يُفعّل خاصية "جهة اتصال موثوقة"، أو يقوم بتسجيل الدخول إلى حساب مختلف، يتجاوز هذه الميزة تمامًا. وينطبق الأمر نفسه على أدوات الرقابة الأبوية.

كما أن خدمة "جهة الاتصال الموثوقة" لا تغني عن خطوط المساعدة في حالات الأزمات. فبحسب شركة OpenAI، لا يزال تطبيق ChatGPT يعرض أرقام الطوارئ المحلية ويوجه المستخدمين نحو خدمات الطوارئ عندما تصل المحادثات إلى مستويات حادة من الضيق.

تتيح ميزة "جهة الاتصال الموثوقة" من OpenAI لمستخدمي الذكاء الاصطناعي التواصل مع جهات الدعم في العالم الحقيقي. وأكدت الشركة أنها ستواصل العمل مع الأطباء والباحثين وصناع السياسات لتحديد كيفية استجابة الذكاء الاصطناعي للأزمات التي قد يواجهها المستخدمون.