ستسمح ميتا التابعة لمارك زوكربيرغ الآن للآباء بحظر الشخصيات الاصطناعية ومراقبة مواضيع محادثات المراهقين

أعلنت Meta التابعة لمارك زوكربيرغ يوم الجمعة أنها ستطلق بعض ضوابط الأبوة الجديدة لمساعدة الآباء على إدارة كيفية تحدث المراهقين مع شخصيات الذكاء الاصطناعي عبر منصاتها.

سيتمكن الآباء قريباً من إيقاف الدردشة الفردية، وحظر روبوتات الذكاء الاصطناعي المحددة، ومعرفة المواضيع التي يناقشها مراهقوهم معها. وذكرت الشركة أن هذه الميزات لا تزال قيد التطوير وستبدأ في الظهور مطلع العام المقبل.

«إن إجراء تحديثات تؤثر على مليارات المستخدمين عبر منصات ميتا هو أمر يجب القيام به بعناية، وسنشارك المزيد من التفاصيل قريباً»، قالت ميتا في بيان نُشر على مدونتها. ويأتي هذا الإعلان في وقت تواجه فيه الشركة انتقادات متزايدة بشأن سلامة المراهقين وقضايا الصحة العقلية المرتبطة بتطبيقاتها.

سيتيح Meta التابعة لمارك زوكربيرغ الآن للآباء حظر شخصيات الذكاء الاصطناعي ومراقبة مواضيع محادثات المراهقين

تأتي التحقيق بعد سنوات من المخاوف العامة حول كيفية إدارة المنصات الاجتماعية لتعرض الشباب لمحادثات الذكاء الاصطناعي التي قد تصبح غير لائقة أو ضارة.

ميتا تواجه غضباً بعد أن دارت روبوتات الذكاء الاصطناعي محادثات رومانسية مع الأطفال

في أغسطس، أفادت رويترز بأن بعض روبوتات الدردشة التابعة لميتا كانت قادرة على خوض محادثات رومانسية وحسية مع القاصرين. ومن بين الأمثلة المذكورة، كانت هناك محادثة رومانسية بين روبوت ذكاء اصطناعي وطفل يبلغ من العمر ثماني سنوات. وتسبب التقرير في غضب واسع، مما أجبر الشركة على الرد فوراً.

بعد ذلك، حدّثت ميتا سياسات روبوتات الدردشة الخاصة بها. وتحظر الشركة الآن أنظمتها من مناقشة إيذاء النفس، أو الانتحار، أو اضطرابات الأكل، أو المحتوى الرومانسي أو الجنسي عند التفاعل مع المراهقين. كما أعلنت عن إدخال ضوابط جديدة هذا الأسبوع لمنع أنظمة الذكاء الاصطناعي من إنتاج «ردود غير ملائمة للعمر قد تبدو غير لائقة في فيلم موجه للبالغين من سن 13 عاماً».

هذه التحديثات قيد النشر بالفعل في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وأضافت الشركة أن المراهقين يمكنهم التحدث فقط مع مجموعة محدودة من الشخصيات الاصطناعية، وأن للآباء بالفعل أدوات لتحديد حدود زمنية ومراقبة محادثات الذكاء الاصطناعي.

انضمام أوبن إيه آي إلى ميتا تحت أضواء لجنة التجارة الفيدرالية

أوبن إيه آي، التي ذُكرت أيضاً في تحقيق لجنة التجارة الفيدرالية، تواجه نفس النوع من الأسئلة بشأن سلامة المراهقين وسلوك روبوتات الدردشة. وأطلقت الشركة مؤخراً أدوات تحكم أبوية خاصة بها، وتعمل على تطوير تقنية للتنبؤ بالعمر لتطبيق الإعدادات المناسبة للمراهقين تلقائياً للمستخدمين دون سن 18.

سيصل الآباء حتى إلى تنبيهات إذا أظهر طفلهم علامات ضيق عاطفي أثناء الدردشة.

في وقت سابق من هذا الأسبوع، أطلقت أوبن إيه آي مجلساً من ثمانية خبراء لتوجيه نهجها تجاه الصحة العقلية وتفاعل الذكاء الاصطناعي. ويأتي هؤلاء المتخصصون من مجالات مثل الطب النفسي، وعلم النفس، وتفاعل الإنسان مع الحاسوب.

قالت الشركة إنها كانت تستشير الخبراء بشكل غير رسمي قبل جعل المجلس رسمياً. وعقد اجتماعهم الأول الأسبوع الماضي خلال جلسة وجهاً لوجه.

تحقيق لجنة التجارة الفيدرالية في أوبن إيه آي يأتي أيضاً بعد رفع عائلة لدعوى قضائية بسبب وفاة غير مشروعة، تلوم فيها شات جي بي تي على انتحار ابنها المراهق. وتقول الشركة إنها تعمل الآن مع أطباء من الشبكة العالمية للأطباء لمساعدة شات جي بي تي في اختبارها وإرساء سياسات سلامة جديدة لحماية المستخدمين الشباب بشكل أفضل.

تجد كل من ميتا وأوبن إيه آي أنفسهما مضطرين الآن لتشديد السيطرة على كيفية حديث أنظمتها الاصطناعية مع المراهقين. لقد جعلت مزيج من الغضب العام، والضغوط التنظيمية، والعواقب المأساوية في العالم الحقيقي من المستحيل على هذه الشركات تجاهل المخاطر بعد الآن.