تتحد شركات جوجل، وOpenAI، وRoblox، وDiscord للقيام ببعض الأعمال الخيرية الجماعية للمجتمع، حيث شكلت مؤخرًا منظمة غير ربحية جديدة تهدف إلى تحسين سلامة الأطفال على الإنترنت.
تُعرف هذه المبادرة باسم أدوات السلامة القوية المفتوحة على الإنترنت (ROOST) وستعمل على ضمان أن تكون تقنيات السلامة الأساسية في متناول الشركات مع توفير أدوات الذكاء الاصطناعي المجانية والمفتوحة المصدرdentومراجعة والإبلاغ عن مواد الاعتداء الجنسي على الأطفال.
يُعدّ التحرش الجنسي بالأطفال وباءً عالميًا لا يزال ينتشر في الفضاء الإلكتروني رغم الجهود المبذولة للحدّ منه. في الآونة الأخيرة، طالب العديد من مستخدمي التطبيقات، بل وحتى بعض المشرّعين، مطوري التطبيقات، مثل مارك زوكربيرج مؤسس شركة ميتا، بتحمّل مسؤولية الأضرار التي تُلحقها منتجاتهم، لا سيما تلك المتعلقة باستغلال الأطفال جنسيًا عبر الإنترنت.
تعالج هذه المبادرة حاجة ماسة
تأتي هذه المبادرة المشتركة جزئياً استجابةً للتغيرات التي أحدثتها التطورات في مجال الذكاء الاصطناعي التوليدي في البيئات الإلكترونية. ويقول إريك شميدت، الشريك المؤسس لشركة ROOST والرئيس التنفيذي السابق لشركة جوجل، إن المبادرة تهدف إلى تلبية "حاجة ملحة لتسريع الابتكار في مجال سلامة الأطفال على الإنترنت".
حول أدوات الكشف عن المواد الإباحية المتعلقة بالأطفال تتوفر تفاصيل كاملة. ومع ذلك، نعلم أنها ستستخدم نماذج ذكاء اصطناعي لغوية ضخمة وستعمل على "توحيد" الخيارات الحالية للتعامل مع هذا المحتوى.
صرح شميدت قائلاً: "انطلاقاً من منصة تركز على حماية الطفل، فإن نهج ROOST التعاوني والمفتوح المصدر سيعزز الابتكار ويجعل البنية التحتية الأساسية أكثر شفافية وسهولة في الوصول إليها وشمولية، بهدف إنشاء إنترنت أكثر أماناً للجميع".
كما ذُكر سابقاً، يتزامن إعلان ROOST مع حملة تنظيمية مستمرة تتعلق بسلامة الأطفال على وسائل التواصل الاجتماعي والمنصات الإلكترونية. وتسعى الشركات الآن إلى استرضاء المشرعين المتحمسين لهذه القضية من خلال اقتراح التنظيم الذاتي.
ستتعاون شركة ROOST مع مطوري نماذج الذكاء الاصطناعي الأساسية الرائدين لتحقيق هدفها
وفقًا للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، ارتفعت حالات استغلال الأطفال المشتبه بها بنسبة 12% بين عامي 2022 و2023. وبحلول عام 2020، كان أكثر من نصف أطفال الولايات المتحدة يستخدمون منصة Roblox، وقد تعرضت الشركة لانتقادات شديدة مرارًا وتكرارًا لفشلها في معالجة الاستغلال الجنسي للأطفال والتعرض لمحتوى غير لائق على منصتها.
سيقدم الأعضاء المؤسسون لمبادرة ROOST، بكل مواردهم، التمويل والأدوات والخبرات اللازمة للمشروع أثناء تطوره. كما أعلنت المبادرة عن شراكتها مع مطوري نماذج الذكاء الاصطناعي الرائدة لبناء "مجتمع ممارسين" لحماية المحتوى. وسيشمل ذلك توفير مجموعات بيانات تدريب معتمدة للذكاء الاصطناعي،dentالثغرات الأمنية.
ستعمل المبادرة أيضاً على جعل "الأدوات الموجودة بالفعل" أكثر سهولة في الوصول إليها، حيث تجمع بشكل فعال بين تقنيات الكشف والإبلاغ المختلفة من المنظمات الأعضاء في حل موحد يمكن للشركات الأخرى تنفيذه بسهولة أكبر.
تعمل شركتا روبلوكس وديسكورد على تحسين سمعتهما
إلى جانب روبلوكس، تم أيضًا استهداف ديسكورد في دعوى قضائية تتعلق بوسائل التواصل الاجتماعي تم رفعها في عام 2022 والتي زعمت أن المنصات لم تفعل شيئًا لمنع البالغين من مراسلة الأطفال دون إشراف.
صرح نارين كونيرو، نائب رئيسdent الهندسة والثقة والسلامة في روبلوكس، بأن منصة ROOST قد تستضيف أنظمة إشراف تعتمد على الذكاء الاصطناعي، والتي يمكن للشركات دمجها عبر واجهات برمجة التطبيقات (API). مع ذلك، لا يزال هناك بعض الغموض حول نطاق أدوات الإشراف التي توفرها ROOST.
على سبيل المثال، تقول ديسكورد إن مساهماتها ستبني على مشروع "لانترن" لتبادل المعلومات عبر المنصات، والذي انضمت إليه عام 2023 إلى جانب ميتا وجوجل. لكنها قد تشمل أيضًا نسخة محدثة من نموذج الذكاء الاصطناعي الخاص بروبلوكس للكشف عن الألفاظ النابية والعنصرية والتنمر والرسائل الجنسية وغيرها من المحتويات غير اللائقة في المقاطع الصوتية، والذي تخطط الشركة لإصداره كمصدر مفتوح هذا العام.
يبقى أن نرى كيف ستتقاطع هذه الأدوات مع أنظمة الكشف عن المواد الإباحية المرتبطة بالأطفال الموجودة بالفعل مثل أداة تحليل الصور PhotoDNA من مايكروسوفت.
إلى جانب كونها جزءًا من ROOST، Discord أصدرت
"في ديسكورد، نؤمن بأن السلامة حقٌ للجميع"، هذا ما صرّح به كلينت سميث، كبير المسؤولين القانونيين في ديسكورد، في بيان ROOST. "نحن ملتزمون بجعل الإنترنت بأكمله - وليس ديسكورد فقط - مكانًا أفضل وأكثر أمانًا، وخاصةً للشباب."
في هذا الوقت، جمعت المبادرة أكثر من 27 مليون دولار ستغطي السنوات الأربع الأولى من عملياتها، بدعم من منظمات خيرية مثل مؤسسة ماكغفرن، وصندوق مستقبل الثقة والسلامة على الإنترنت، ومؤسسة نايت، ومبادرة الذكاء الاصطناعي التعاونية.
ستحظى منظمة ROOST بدعم خبراء في مجال سلامة الأطفال، والذكاء الاصطناعي، وتقنية المصادر المفتوحة ومكافحة التطرف العنيف. وهي في جوهرها ثمرة تعاون عقول بارزة في مجال التكنولوجيا للحد من الاعتداء الجنسي على الأطفال وكيفية انتشاره في جميع أنحاء العالم. وبما أنها مفتوحة المصدر، يمكن إجراء تحديثات وتحسينات مستمرة من قبل مجتمع المطورين العالمي، مما يعني أن النظام الذي ستُنشئه ROOST سيستمر في التطور مع مرور الوقت.
