تشير أبحاث Common Sense إلى أن ChatGPT for Teens قد حذّر الوالدين في وقت متأخر أو لم يحذرهم على الإطلاق

في الأربعاء، قالت Common Sense Media إن ChatGPT كان "خطراً غير مقبول" لأي شخص دون سن 18.

كان من المفترض أن تتلقى التنبيهات من OpenAI بشأن الدردشات الخطرة، لكن اختبارات Common Sense تشير إلى أن التنبيهات ظهرت متأخرة أو لم تظهر على الإطلاق.

لم تصل الإشعارات ضمن الهدف المحدد من قبل OpenAI وهو ساعة واحدة لكل طول محادثة

أعلن بدء ChatGPT للمراهقين من OpenAI في 18 أغسطس 2026 عن تنبيهات للآباء حول الدردشات الخطرة.

أثار المختبرون في معهد Youth AI Safety التابع للمنظمة موضوعات تتعلق بالتفكير الانتحاري، إيذاء الذات، أو اضطرابات الأكل على أكثر من اثني عشر حسابًا جديدًا مرتبطًا بالآباء، لكنهم لم يتلقوا أي تنبيهات.

في كل مرة استمرت فيها المحادثة لمدة تتراوح بين خمس دقائق وساعة واحدة، لم يتم إرسال أي تنبيه لأي حساب ضمن هدف OpenAI المحدد وهو ساعة واحدة. تم إخطار الآباء فقط عندما كان للحساب سجلات تمتد لعدة أسابيع تتضمن مواضيع حساسة.

عند اختبار هذا النوع من الحسابات في الأسابيع السابقة للإطلاق، تم إرسال تنبيهين. أرسل التنبيه الأول بعد ثلاث ساعات من أول كشف عن مستوى أزمة. وأُرسل التنبيه الثاني بعد ثلاثة أيام من ذلك.

تم إرسال تنبيهين خلال ساعة لحساب منفصل بعد الإطلاق كان لديه تاريخ طويل. ذكرت Common Sense أن التنبيهات تعتمد على مقدار التاريخ الذي يمتلكه الحساب، وليس على مدى خطورة كلمات المراهق.

حذرت Common Sense من أن هذه الميزة قد تغرس "ثقة زائفة في حواجز الحماية التي غالباً ما تفشل في العمل."

عالج الباحثون إطلاق أغسطس كتجربة طبيعية، حيث شغّلوا أكثر من 4000 طلب عبر ChatGPT قبل وبعد تفعيل وضع المراهقين.

بعد الإطلاق، قام المجربون بتحديد اللحظات التي كان ينبغي فيها توجيه مراهق إلى خط مساعدة للأزمات أو مساعدة مهنية. وتخطى ChatGPT هذه الخطوة أكثر من ربع الوقت.

تطبق Common Sense معدل نجاح بنسبة 95% على خمسة أضرار جسيمة تصنفها كـ"خطوط حمراء". وقد جاء ChatGPT دون هذا المعيار في ثلاثة منها.

حدّثت OpenAI مواصفات نموذج الذكاء الاصطناعي للمستخدمين دون سن 18 لوقف الروبوت عن التصرف كشريك. ومع ذلك، لا يزال المراهقون الذين تحدثوا إليه كشخص يحصلون على ردود بأسلوب الصداقة.

يتيح زر "أظهر لي الإجابة" للمراهق القفز مباشرةً فوق التدريس المقدم في وضع الدراسة. وحذف بادئة "@study" من الدردشة يخرجه من ساعات الدراسة المحددة من قبل الوالدين.

لم تتحول الحسابات التجريبية المسجلة كبالغين أبداً إلى وضع المراهقين على مدار عدة أيام، حتى عندما ذكر مجرب أنه يبلغ من العمر 13 عاماً وقام الروبوت بالاعتراف بذلك.

تقول OpenAI إن الاستخدام اليومي للمراهقين يبقى أقل من 15 دقيقة

قالت إن اختبارات OpenAI لا "تعكس بدقة" كيفية عمل ميزات السلامة الخاصة بها للمراهقين. وذكرت الشركة أن ربط الحسابات قد يستغرق ساعات قبل تفعيل التنبيهات، لضمان سلامة الحسابات وتتمكن النظام من التعامل مع الحمل.

ذكرت Common Sense أن أيًا من حساباتها، حتى تلك التي تم ربطها لفترة كافية، لم ترسل تنبيهات في الوقت المناسب.

أصدرت OpenAI تقريرها الأول حول كيفية استخدام المراهقين لـ ChatGPT في نفس اليوم. وذكرت الشركة أن متوسط استخدام المراهقين لا يتجاوز 15 دقيقة يومياً، وأن أقل من 2% من المراهقين يبقون متصلين لأكثر من ثلاث ساعات متواصلة.

قالت OpenAI إنه في نصف محادثات المراهقين تقريبًا مع تحذير الفاصل الزمني، توقف المراهق أو غادر خلال خمس دقائق. وقد استخدم أكثر من 180,000 مراهق وضع الدراسة، وحوالي 1.2 مليون شخص استخدموا التصورات التعليمية في أسبوع واحد فقط.

أبلغت OpenAI أن المراهقين الذين يستخدمون الوضع الجديد أرسلوا متوسطًا حوالي 2.7 مليون رسالة تعليمية إضافية مقارنة بمن كانوا لا يزالون ينتظرون الوصول إليها.

في الولايات المتحدة، سيتمكن الطلاب في الصفوف العاشر إلى الثاني عشر من استخدام College Planner لإنشاء خطة شاملة توضح جميع الخطوات اللازمة لتطبيقاتهم، والتواريخ المهمة لتقديم الطلبات، وخيارات المساعدة المالية المتاحة.

خلال السنوات الثلاث المقبلة، ستدعم OpenAI أيضًا مختبر الرفاهية الرقمية في مستشفى بوسطن للأطفال. سيقوم حوالي 22 طالبًا بتقديم ملاحظات حول الإعدادات الافتراضية للسلامة، وضوابط الوالدين، والتنبيهات.

يذكر Cryptopolitan أن OpenAI وCommon Sense Media تعاونتا في يناير على إجراء في استفتاء بولاية كاليفورنيا لجعل الذكاء الاصطناعي أكثر أماناً للأطفال. وكانت OpenAI تنوي تقديم ما لا يقل عن 10 ملايين دولار لهذا الجهد المشترك.

قدم جيمس أوثميير، المدعي العام لولاية فلوريدا، أول دعوى قضائية تقودها الولاية ضد OpenAI ومديرها التنفيذي سام ألتمان في يونيو. وأبلغ Cryptopolitan أنه في شكواه المكونة من 83 صفحة، يدعي أن ChatGPT ساعد آدم رين البالغ من العمر 16 عاماً على الانتحار.