تعمل OpenAI على بناء نسخة جديدة من ChatGPT مخصصة للمراهقين

أعلنت OpenAI أنها تطور نسخة مخصصة من ChatGPT للمراهقين، وهي خطوة تقول إنها ضرورية لتحقيق التوازن بين السلامة والخصوصية والحرية.

وقالت الشركة، التي تتخذ من سان فرانسيسكو مقراً لها وتشتهر بدفع الذكاء الاصطناعي نحو التيار الرئيسي، يوم الثلاثاء إنها ستقدم ما وصفته بـ "تجربة ChatGPT مختلفة" للمستخدمين دون سن 18. ويأتي هذا وسط ضغوط من المنظمين والسياسيين والآباء الذين طالبوا بمزيد من التدقيق في تأثيرات روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الصحة العقلية للشباب.

ستتمتع نسخة ChatGPT الجديدة بحواجز حماية لحماية المراهقين

أقر سام ألتمان، الرئيس التنفيذي لـ OpenAI، بأن الشركة واجهت مقايضات صعبة.

وقال في منشور على مدونة: "بعض مبادئنا في تعارض. نحن نفضل السلامة على الخصوصية والحرية للمراهقين؛ هذه تقنية جديدة وقوية، ونعتقد أن القاصرين يحتاجون إلى حماية كبيرة".

OpenAI طالبت المستخدمين بأن يكونوا في سن 13 على الأقل، لكنها تنوي الآن بناء نظام أكثر صرامة للتنبؤ بالعمر للتمييز بين البالغين والقاصرين دون سن 18. في حال وجود شكوك، ستقوم تلقائياً بتحويل المستخدم إلى النسخة المخصصة للمراهقين "توخياً للحذر".

ولن تكون هذه التجربة خاضعة للإشراف المشدد فحسب، بل ستضع الآباء في دور أكثر مركزية. من خلال ربط الحسابات، سيتمكن الآباء من إدارة وصول أطفالهم، وتقييد ميزات مثل الذاكرة وسجل الدردشة، وتحديد ساعات الحظر التي لا يمكن فيها استخدام النظام. كما سيتم إشعار الآباء إذا اكتشف المنصة علامات "ضائقة حادة".

كشفت الشركة عن قيود إضافية، مثل أن ChatGPT للمراهقين لن يشارك في محادثات غرامية، ولن يستجيب للأسئلة حول الانتحار أو إيذاء النفس، حتى ضمن الكتابة الإبداعية. وإذا أظهر الطفل أفكاراً انتحارية، تقول الشركة إنها ستحاول أولاً تنبيه الوالدين، وإذا لزم الأمر، إبلاغ السلطات.

وقالت OpenAI: "هذه قرارات صعبة، ولكن بعد التحدث مع الخبراء، هذا ما نعتقد أنه الأفضل".

تتصرف OpenAI وسط تدقيق تنظيمي مشدد

يأتي هذا التطوير المقترح الجديد بينما تقترب جلسات الاستماع في مجلس الشيوخ الأمريكي لفحص المخاطر التي يشكلها الذكاء الاصطناعي على المراهقين بساعات قليلة. وستترأس المناقشة الحزبية من كلا الحزبين السيناتور جوش هاولي، الجمهوري من ميسوري، إلى جانب السيناتورات مارشا بلكبرن وكاتي بريت وريتشارد بلومنتال وكريس كونس.

الأسبوع الماضي، وفي إطار عملية لجمع الإجابات، شنت لجنة التجارة الفيدرالية تحقيقاً في OpenAI وAlphabet وMeta وxAI وSnap وCharacter.AI. وتطلب اللجنة معلومات حول التدابير التي اتخذتها كل شركة لحماية القاصرين. ومؤخراً، وكما أفادت Cryptopolitan، صنفت تقييم مخاطر من Common Sense Media Google Gemini على أنه "عالي الخطورة" للمراهقين والأطفال.

وتضيف الدعاوى القضائية ضغطاً إضافياً، حيث قدم آباء عبر الولايات المتحدة شكاوى متهمين شركات التكنولوجيا بتصميم منتجات إدمانية تضر بالصحة العقلية للأطفال. وقد أجبرت موجة الإجراءات القانونية بالفعل شركات مثل YouTube على إنشاء بدائل صديقة للأطفال.

وعلى الرغم من أن OpenAI تبذل جهوداً نحو جعل ChatGPT أكثر أماناً للقاصرين، فلا يوجد ضمان لنجاح المبادرة، حيث قد يتجاوز الشباب المطلعون على التكنولوجيا ضوابط الوالدين ويبحثون عن نسخ غير مقيدة من التطبيقات الشائعة.

"يجب علينا فصل المستخدمين الذين تقل أعمارهم عن 18 عاماً عن أولئك الذين لا ينتمون لهذه الفئة".

OpenAI.

"في حال وجود شك، سنلعب بشكل آمن"،وضحت الشركة في بيانها العام.

ويلاحظ مراقبو الصناعة أنه على الرغم من الجهود الحسنة النية، غالباً ما يجد المراهقون "حلولاً بديلة" للوصول إلى المنصات الرئيسية. ويقولون إن اعتماد OpenAI على الآباء لمراقبة النشاط قد يصبح نقطة عنق زجاجة.

يُعد هذا المبادرة الجديدة جزءاً من تعهد أوسع من OpenAI لإدخال حماية أقوى للشباب وأولئك الذين يعانون من ضائقة عاطفية بحلول نهاية العام.

وكما قال ألتمان: "هذه تقنية جديدة وقوية، ونعتقد أن القاصرين يحتاجون إلى حماية كبيرة".