تقوم شركة OpenAI ببناء نموذج ChatGPT جديد مخصص للمراهقين

أعلنت شركة OpenAI أنها تعمل على تطوير نسخة مخصصة من ChatGPT للمراهقين، وهي خطوة تقول إنها ضرورية لتحقيق التوازن بين السلامة والخصوصية والحرية.

أعلنت الشركة التي تتخذ من سان فرانسيسكو مقراً لها، والمعروفة بدفعها للذكاء الاصطناعي إلى التيار السائد، يوم الثلاثاء أنها ستطرح ما وصفته بـ "تجربة ChatGPT مختلفة" للمستخدمين الذين تقل أعمارهم عن 18 عاماً. ويأتي هذا وسط ضغوط من الجهات التنظيمية والسياسيين وأولياء الأمور الذين يطالبون بتكثيف التدقيق في تأثيرات روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الصحة العقلية للشباب.

سيحتوي تطبيق ChatGPT الجديد على ضوابط لحماية المراهقين

أقر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن الشركة واجهت خيارات صعبة.

وكتب في منشور على مدونته: "بعض مبادئنا تتعارض. نحن نعطي الأولوية للسلامة على حساب الخصوصية والحرية للمراهقين؛ هذه تقنية جديدة وقوية، ونعتقد أن القاصرين بحاجة إلى حماية كبيرة"

OpenAI ألا يقل عمر المستخدمين عن 13 عامًا، لكنها تعتزم الآن بناء نظام أكثر دقة لتوقع العمر لتمييز البالغين عن من هم دون سن 18 عامًا. وفي حال وجود أي شكوك، سيتمmaticإلى النسخة المخصصة للمراهقين "كإجراء احترازي".

لن تقتصر هذه التجربة على الإشراف الدقيق فحسب، بل ستمنح الآباء دورًا محوريًا أكبر. فمن خلال ربط الحسابات، سيتمكن الآباء والأمهات من إدارة وصول أطفالهم، وتقييد ميزات مثل الذاكرة وسجل المحادثات، وتحديد ساعات حظر استخدام النظام. كما سيتم إخطار الآباء في حال رصدت المنصة أي علامات تدل على "ضيق شديد".

كشفت الشركة عن قيود إضافية، منها أن تطبيق ChatGPT المخصص للمراهقين لن ينخرط في محادثات غزلية، ولن يجيب على أسئلة تتعلق بالانتحار أو إيذاء النفس، حتى في سياق الكتابة الإبداعية. وتقول الشركة إنها ستحاول أولاً تنبيه الوالدين إذا أبدى الطفل أفكاراً انتحارية، وإذا لزم الأمر، ستُبلغ السلطات.

وكتبت شركة OpenAI: "هذه قرارات صعبة، ولكن بعد التحدث مع الخبراء، نعتقد أن هذا هو الأفضل".

تتخذ شركة OpenAI إجراءاتها وسط تدقيق تنظيمي مكثف

يأتي هذا التطور المقترح الجديد في وقتٍ لم يتبقَّ فيه سوى ساعات قليلة على جلسة استماع مجلس الشيوخ الأمريكي لبحث المخاطر التي يشكلها الذكاء الاصطناعي على المراهقين. وسيقود النقاش الذي يضم الحزبين السيناتور جوش هاولي، الجمهوري عن ولاية ميسوري، إلى جانب السيناتورات مارشا بلاكبيرن، وكيتي بريت، وريتشارد بلومنتال، وكريس كونز.

في الأسبوع الماضي، وفي إطار سعيها للحصول على إجابات، أطلقت لجنة التجارة الفيدرالية تحقيقًا في شركات OpenAI وAlphabet وMeta وxAI وSnap وCharacter.AI. وتطالب اللجنة بمعلومات حول الإجراءات التي اتخذتها كل شركة لحماية القاصرين. ومؤخرًا، وكما ذكر موقع Cryptopolitan، صنّف تقييم للمخاطر أجرته مؤسسة Common Sense Media تطبيق Google Gemini بأنه "عالي الخطورة" على المراهقين والأطفال.

تزيد الدعاوى القضائية من الضغط، حيث رفع أولياء الأمور في جميع أنحاء الولايات المتحدة شكاوى يتهمون فيها شركات التكنولوجيا بتصميم منتجات إدمانية تضر بالصحة النفسية للأطفال. وقد أجبرت هذه الموجة من الإجراءات القانونية شركات مثل يوتيوب على ابتكار بدائل مناسبة للأطفال.

على الرغم من أن OpenAI تبذل جهودًا من أجل جعل ChatGPT أكثر أمانًا للقاصرين، إلا أنه لا يوجد ضمان لنجاح هذه المبادرة، حيث قد يتجاوز الشباب الملمّون بالتكنولوجيا أدوات الرقابة الأبوية ويبحثون عن نسخ غير مفلترة من التطبيقات الشائعة.

"علينا فصل المستخدمين الذين تقل أعمارهم عن 18 عامًا عن أولئك الذين تزيد أعمارهم عن 18 عامًا."

OpenAI.

وأوضحت الشركة في بيانها العام: "إذا كان هناك شك، فسوف نتوخى الحذر".

يلاحظ مراقبو الصناعة أنه على الرغم من الجهود المبذولة بحسن نية، غالباً ما يجد المراهقون "حلولاً بديلة" للوصول إلى المنصات الرئيسية. ويقولون إن اعتماد OpenAI على الآباء لمراقبة النشاط قد يصبح نقطة خلاف.

وتُعد المبادرة الجديدة جزءًا من تعهد أوسع من جانب OpenAI لتقديم أقوىtronللشباب والأشخاص ضائقة عاطفية بحلول نهاية العام.

وكما قال ألتمان: "هذه تقنية جديدة وقوية، ونحن نعتقد أن القاصرين بحاجة إلى حماية كبيرة"