ستتيح منصة ميتا التابعة لمارك زوك الآن للآباء حظر الشخصيات التي يتحكم بها الذكاء الاصطناعي والاطلاع على مواضيع دردشة المراهقين

أعلنت شركة ميتا التابعة لمارك زوكربيرج يوم الجمعة أنها ستطلق بعض أدوات الرقابة الأبوية الجديدة لمساعدة الآباء على إدارة كيفية تحدث المراهقين مع شخصيات الذكاء الاصطناعي عبر منصاتها.

سيتمكن الآباء قريبًا من إيقاف المحادثات الفردية، وحظر روبوتات الذكاء الاصطناعي المحددة، والاطلاع على المواضيع التي يناقشها أبناؤهم المراهقون معهم. وأوضحت الشركة أن هذه الميزات لا تزال قيد التطوير، وسيتم طرحها تدريجيًا مطلع العام المقبل.

أصدرت شركة ميتا بيانًا على مدونتها جاء فيه: "إن إجراء تحديثات تؤثر على مليارات المستخدمين عبر منصات ميتا يتطلب منا توخي الحذر، وسنشارك المزيد من التفاصيل قريبًا". ويأتي هذا الإعلان في ظل تزايد التدقيق الذي تواجهه الشركة بشأن سلامة المراهقين وقضايا الصحة النفسية المرتبطة بتطبيقاتها.

فتحت لجنة التجارة الفيدرالية تحقيقًا مع عدد من شركات التكنولوجيا العملاقة، بما في ذلك شركة ميتا، لفهم كيفية تأثير برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي على الأطفال. وقالت اللجنة إنها تريد معرفة الإجراءات التي اتخذتها الشركات "لتقييم سلامة هذه البرامج عند استخدامها كرفقاء"

هذا التحقيق بعد سنوات من القلق العام بشأن كيفية إدارة منصات التواصل الاجتماعي لتعرض الشباب لمحادثات الذكاء الاصطناعي التي قد تصبح غير لائقة أو ضارة.

تواجه شركة ميتا ردود فعل عنيفة بعد أن بدأت روبوتات الذكاء الاصطناعي بالتحدث بشكل رومانسي مع الأطفال

في أغسطس/آب، أفادت وكالة رويترز بأن بعض برامج الدردشة الآلية التابعة لشركة ميتا قادرة على إجراء محادثات رومانسية وحسية مع قاصرين. ومن الأمثلة التي ذُكرت محادثة رومانسية بين برنامج ذكاء اصطناعي وطفل يبلغ من العمر ثماني سنوات. أثار التقرير غضباً واسعاً، ما أجبر الشركة على الرد فوراً.

بعد ذلك، قامت شركة ميتا بتحديث سياساتها المتعلقة ببرامج الدردشة الآلية. وتمنع الشركة الآن أنظمة الذكاء الاصطناعي التابعة لها من مناقشة مواضيع إيذاء النفس، والانتحار، واضطرابات الأكل، والمحتوى الرومانسي أو الجنسي عند التفاعل مع المراهقين. كما ذكرت الشركة أنها أدخلت هذا الأسبوع إجراءات وقائية جديدة لمنع أنظمة الذكاء الاصطناعي من إنتاج "ردود غير مناسبة لأعمارهم، والتي قد تبدو غريبة في فيلم مصنف PG-13"

بدأت هذه التحديثات بالظهور تدريجياً في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وأضافت الشركة أن المراهقين لا يمكنهم التحدث إلا مع مجموعة محدودة من الشخصيات التي تعمل بالذكاء الاصطناعي، وأن أولياء الأمور لديهم بالفعل أدوات لتحديد أوقات استخدام هذه الشخصيات ومراقبة محادثات الذكاء الاصطناعي.

تنضم OpenAI إلى Meta تحت أنظار لجنة التجارة الفيدرالية

تواجه شركة OpenAI، التي ورد اسمها أيضاً في تحقيق لجنة التجارة الفيدرالية، نفس النوع من التساؤلات حول سلامة المراهقين وسلوك برامج الدردشة الآلية. وقد أطلقت الشركة مؤخراً أدوات الرقابة الأبوية الخاصة بها، وتعمل على تطوير تقنية التنبؤ بالعمر لتطبيق إعدادات مناسبة للمراهقينmaticللمستخدمين دون سن 18 عاماً.

بل وسيتلقى الآباء تنبيهات إذا أظهر طفلهم علامات على الضيق العاطفي أثناء الدردشة.

أطلقت شركة OpenAI في وقت سابق من هذا الأسبوع مجلسًا يضم ثمانية خبراء لتوجيه نهجها في مجال الصحة النفسية والتفاعل مع الذكاء الاصطناعي. وينتمي هؤلاء المتخصصون إلى مجالات مثل الطب النفسي وعلم النفس والتفاعل بين الإنسان والحاسوب.

أعلنت الشركة أنها كانت تتشاور بشكل غير رسمي مع الخبراء قبل إضفاء الطابع الرسمي على المجلس. وقد عُقد أول اجتماع لهم الأسبوع الماضي خلال جلسة حضورية.

يأتي تحقيق لجنة التجارة الفيدرالية في شركة OpenAI في أعقاب دعوى قضائية رفعتها عائلة تتهم برنامج ChatGPT بالتسبب في انتحار ابنها المراهق. وتفيد الشركة بأنها تعمل حاليًا مع أطباء من شبكة الأطباء العالمية للمساعدة في اختبار برنامج ChatGPT ووضع سياسات أمان جديدة لحماية المستخدمين الشباب بشكل أفضل.

تجد كل من شركتي ميتا وأوبن إيه آي نفسيهما مضطرتين الآن إلى تشديد الرقابة على كيفية تواصل برامج الذكاء الاصطناعي الخاصة بهما مع المراهقين. وقد جعل مزيج الغضب الشعبي والضغوط التنظيمية والعواقب المأساوية في الواقع العملي من المستحيل على هاتين الشركتين تجاهل المخاطر بعد الآن.