Google Gemini مُصنّف كمخاطر عالية للمستخدمين الصغار في تقييم جديد

تم تصنيف Google Gemini على أنه «مخاطر عالية» للمراهقين والأطفال، وفقاً لتقييم مخاطر حديث أجرته «Common Sense Media». المجموعة، وهي منظمة غير ربحية تركز على سلامة الأطفال، تقدم تصنيفات ومراجعات لوسائل التكنولوجيا والإعلام. أصدرت الهيئة مراجعتها يوم الجمعة، مقدّمةً تفاصيل حول سبب تصنيفها للمنصة كمحفوفة بالمخاطر للأطفال.

ووفقاً للمنظمة، أخبر Gemini الأطفال بوضوح بأنه جهاز كمبيوتر وليس صديقاً – وهو أمر ارتبط بمساعدة في دفع التفكير الوهمي والذهان لدى الأفراد ضعاف العاطفة – كما أضاف الذكاء الاصطناعي أن هناك مجالاً للتحسين في جوانب أخرى.

في تقريرها، ادّعت Common Sense أن مستويي تجربة Gemini لمن هم دون 13 عامًا والمراهقين بدوا كلاهما كإصدارات للبالغين من الذكاء الاصطناعي تحت الغطاء. وأضافت أن الشركة أضافت فقط بعض ميزات الأمان الإضافية لجعلها مختلفة.

لاحظت «Common Sense» أنه لكي تجعل الشركات منتجات الذكاء الاصطناعي مثالية للأطفال، يجب بناؤها من الصفر مع وضع الأطفال في الاعتبار وليس مجرد تعديلها بإضافة قيود.

منظمة غير ربحية تصنف Google Gemini كمخاطر عالية للأطفال

في تحليلها، قالت Common Sense إنها وجدت أن Gemini لا يزال بإمكانه مشاركة مواد غير لائقة وغير آمنة مع الأطفال، مشيرة إلى أن معظمهم قد لا يكونون جاهزين لهذه المواد. على سبيل المثال، سلّطت الضوء على أن النموذج شكّل معلومات تتعلق بالجنس والمخدرات والكحول ونصائح أخرى غير آمنة للصحة العقلية. وقد يكون هذا الأخير مصدر قلق خاص للآباء، حيث أفيد بأن الذكاء الاصطناعي لعب دورًا في إيذاء النفس لدى المراهقين خلال الأشهر الأخيرة.

تواجه OpenAI حالياً دعوى قضائية بتهمة الوفاة الخطأ بعد أن انتحر مراهق بعد استشارته ChatGPT لأشهر حول خططه. زعمت التقارير أن الفتى تمكن من تجاوز حواجز الأمان الخاصة بالنموذج، مما أدى إلى تزويده بمعلومات ساعدته.

في الماضي، تم أيضاً مقاضاة شركة Character.AI، صانعة رفيق الذكاء الاصطناعي، بعد أن انتحر مراهق. زعمت والدة الفتى أنه أصبح مهووساً بروبوت الدردشة وقضى أشهراً يتحدث معه قبل أن يؤذي نفسه في النهاية.

يأتي هذا التحليل في وقت أشارت فيه عدة تسريبات إلى أن آبل reportedly تدرس استخدام Gemini كنموذج لغوي كبير (LLM) الذي سيقود سيري المدعوم بالذكاء الاصطناعي، والتي من المتوقع إطلاقها في العام المقبل.

في تقريرها، ذكرت «Common Sense» أيضاً أن منتجات Gemini للأطفال والمراهقين تجاهلت الحاجة إلى تقديم إرشادات ومعلومات مختلفة عما تقدمه للبالغين. ونتيجة لذلك، تم تصنيف كلاهما كمخاطر عالية في التقييم العام.

«Common Sense» تؤكد على ضرورة حماية الأطفال

«Gemini يجيد بعض الأساسيات، لكنه يخطئ في التفاصيل»، قال روبي تورني، المدير الأولي لبرامج الذكاء الاصطناعي في «Common Sense Media».

«يجب أن تلتقي منصة الذكاء الاصطناعي للأطفال حيث هم، بدلاً من اتباع نهج واحد يناسب الجميع للأطفال في مراحل نمو مختلفة. لكي يكون الذكاء الاصطناعي آمناً وفعالاً للأطفال، يجب تصميمه مع مراعاة احتياجاتهم ونموهم، وليس مجرد نسخة معدلة من منتج مخصص للبالغين»، وأضاف تورني.

ومع ذلك، دفعت Google ضد التقييم، مشيرة إلى أن ميزات الأمان الخاصة بها تتحسن. ذكرت الشركة أنها تضع ضوابط محددة لتوجيه المستخدمين دون سن 18 لمنع المخرجات الضارة. كما قالت الشركة إنها تراجع العناصر وتستشير خبراء خارجيين لتحسين حماياتها.