روبلوكس، وألفابت، وأوبن إيه آي، وديسكورد تجمع 27 مليون دولار لأدوات سلامة الأطفال عبر الإنترنت مفتوحة المصدر

جوجل، وأوبن إيه آي، وروبلوكس، وديسكورد تتحد للقيام بشيء جماعي مفيد للمجتمع حيث شكلت مؤخراً منظمة غير ربحية جديدة تهدف إلى تحسين سلامة الأطفال عبر الإنترنت. 

المبادرة معروفة بأدوات السلامة عبر الإنترنت القوية والمفتوحة (ROOST) وستعمل على ضمان أن تقنيات السلامة الأساسية أكثر سهولة للشركات مع توفير أدوات ذكاء اصطناعي مجانية ومفتوحة المصدر لتحديد ومراجعة والإبلاغ عن مواد الإساءة الجنسية للأطفال.

الإساءة الجنسية للأطفال هي وباء عالمي يستمر في الازدهار في الفضاءات عبر الإنترنت على الرغم من الجهود المبذولة لقمعه. في الآونة الأخيرة، اقترح العديد من مستخدمي التطبيقات وحتى المشرعون أن يأخذ صناع التطبيقات مثل مارك زوكربيرغ من ميتا المسؤولية عن مقدار الضرر الذي تسببه منتجاتهم، خاصة فيما يتعلق بجرائم الأطفال والاعتداء الجنسي. 

المبادرة تعالج حاجة حرجة 

تحدث المبادرة المشتركة جزئياً استجابة للتغيرات التي أحدثتها تطورات الذكاء الاصطناعي التوليدي في البيئات عبر الإنترنت. المؤسسون ROOST الشريك ووزير الخارجية السابق لشركة جوجل إريك شميدت يقول إن المبادرة تريد معالجة "الحاجة الحرجة لتسريع الابتكار في سلامة الأطفال عبر الإنترنت." 

في الوقت الحالي، تفاصيل أدوات اكتشاف مواد الإساءة الجنسية للأطفال (CSAM) ليست متاحة بالكامل بعد. ومع ذلك، نعلم أنها ستستخدم نماذج ذكاء اصطناعي لغوية كبيرة و"توحد" الخيارات الحالية للتعامل مع المحتوى.

"بدءاً بمنصة تركز على حماية الأطفال، سيعزز النهج التعاوني ومفتوح المصدر لـ ROOST الابتكار ويجعل البنية التحتية الأساسية أكثر شفافية وسهولة في الوصول وإدماجاً، بهدف إنشاء إنترنت أكثر أماناً للجميع،" قال شميدت. 

كما ذكر سابقاً، يتزامن إعلان ROOST مع دفع تنظيمي مستمر بشأن سلامة الأطفال على وسائل التواصل الاجتماعي والمنصات عبر الإنترنت. تبحث الشركات الآن عن إرضاء المشرعين في الحرب على اقتراح التنظيم الذاتي.

ستتعاون ROOST مع مطوري نماذج الذكاء الاصطناعي الأساسيين الرائد لتحقيق هدفها

وفقاً للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، ارتفعت حالات الاستغلال المشتبه بها للأطفال بنسبة 12% بين عامي 2022 و2023. اعتباراً من عام 2020، كان أكثر من نصف الأطفال في الولايات المتحدة على روبلوكس، وقد تعرضت الشركة لنقد شديد مراراً وتكراراً لفشلها في معالجة الاستغلال الجنسي للأطفال والتعرض لمحتوى غير لائق على منصتها. 

سوف يقدم الأعضاء المؤسسون لـ ROOST، بكل مواردهم، تمويلاً مختلفاً وعرض أدواتهم أو خبراتهم للمشروع أثناء تشكيله. كما أعلنت المبادرة أنها ستتعاون مع مطوري نماذج الذكاء الاصطناعي الأساسيين الرائد لبناء "مجتمع ممارسة" لحمايات المحتوى. سيضمن ذلك توفير مجموعات بيانات تدريبية مدققة للذكاء الاصطناعي وتحديد الفجوات في السلامة.

ستعمل المبادرة أيضاً على جعل "الأدوات الموجودة بالفعل" أكثر سهولة، مما يجمع بشكل فعال بين تقنيات الكشف والإبلاغ المختلفة من منظمات أعضائها في حل موحد يمكن للشركات الأخرى تنفيذه بسهولة. 

روبلوكس وديسكورد تعملان على إعادة بناء سمعتهما

مع روبلوكس، تم تمييز ديسكورد أيضاً في دعوى قضائية عبر وسائل التواصل الاجتماعي تم تقديمها في عام 2022 زعمت أن المنصات لم تفعل شيئاً لمنع البالغين من مراسلة الأطفال دون إشراف.

نارين كونرو، نائب رئيس الهندسة والثقة والسلامة في روبلوكس، قال إن ROOST قد تستضيف أنظمة تعديل الذكاء الاصطناعي التي يمكن للشركات دمجها من خلال استدعاءات API. ومع ذلك، هناك بعض الغموض حول ما ستغطيه أدوات تعديل الذكاء الاصطناعي الخاصة بـ ROOST.

على سبيل المثال، تقول ديسكورد إن مساهماتها ستبني على مشروع Lantern لتبادل المعلومات عبر المنصات الذي انضممت إليه في عام 2023 إلى جانب ميتا وجوجل. ولكن قد يشمل أيضاً نسخة محدثة من نموذج الذكاء الاصطناعي الخاص بـ روبلوكس للكشف عن البذاءة والعنصرية والتنمر والمضايقات الجنسية والمحتوى غير اللائق الآخر في المقاطع الصوتية، والذي تخطط الشركة لإطلاقه كمفتوح المصدر هذا العام. 

يبقى أن نرى كيف ستتقاطع الأدوات مع أنظمة اكتشاف مواد الإساءة الجنسية للأطفال (CSAM) الموجودة بالفعل مثل أداة تحليل الصور PhotoDNA الخاصة بميكروسوفت.

بصرف النظر عن كونها جزءاً من ROOST، ديسكورد أصدرت أيضاً ميزة "تجاهل" جديدة تسمح للمستخدمين بإخفاء الرسائل والإشعارات التي يتلقونها دون إخطار الأشخاص الذين كتموا أصواتهم. 

"في ديسكورد، نؤمن بأن السلامة هي خير مشترك،" شارك كلينت سميث، كبير المسؤولين القانونيين في ديسكورد، في إعلان ROOST. "نحن ملتزمون بجعل الإنترنت بأكمله - وليس فقط ديسكورد - مكاناً أفضل وأكثر أماناً، خاصة للشباب." 

في الوقت الحالي، جمعت المبادرة أكثر من 27 مليون دولار التي ستغطي السنوات الأربع الأولى من عملياتها، بدعم من منظمات خيرية مثل مؤسسة ماغوفن، وصندوق مستقبل الثقة والسلامة عبر الإنترنت، ومؤسسة نايت، والتعاوني للذكاء الاصطناعي. 

ستحصل منظمة ROOST أيضاً على دعم خبراء في سلامة الأطفال، والذكاء الاصطناعي، وتقنية مفتوحة المصدر، و"مكافحة التطرف العنيف". إنها في الأساس تتويج للعقول العظيمة في التكنولوجيا تعمل معاً لقمع الاعتداء الجنسي على الأطفال وكيفية انتشار محتواها في جميع أنحاء العالم. وبما أنها مفتوحة المصدر، يمكن إجراء تحديثات وتحسينات مستمرة من قبل مجتمع المطورين العالميين، مما يعني أن الوحش ROOST الذي سيخلقونه سيستمر في التطور مع مرور الوقت.