تقرير ستانفورد يكشف عن مواد إباحية للأطفال في بيانات تدريب الذكاء الاصطناعي

أجرى مرصد ستانفورد للإنترنت اكتشافاً مثيراً للقلق: أكثر من 1000 صورة مزيفة لسوء المعاملة الجنسية للأطفال في LAION-5B، وهي مجموعة بيانات تُستخدم لتدريب مولدات صور الذكاء الاصطناعي. هذا الاكتشاف، الذي تم الإعلان عنه في أبريل، أثار مخاوف جدية حول المصادر والطرق المستخدمة لتجميع مواد تدريب الذكاء الاصطناعي.

تراكمت هذه الصور في LAION-5B، المرتبطة بشركة Stability AI المستقرة في لندن ومولد صور الذكاء الاصطناعي Stable Diffusion، من خلال أخذ عينات من المحتوى من وسائل التواصل الاجتماعي ومواقع البورنوجرافي. اكتشاف مثل هذا المحتوى في مواد تدريب الذكاء الاصطناعي مثير للقلق، نظراً للاستخدام الواسع لهذه المنصات وتأثيرها المحتمل.

معالجة التحدي بالتكنولوجيا

لم يشاهد باحثو ستانفورد المحتوى المسيء مباشرة أثناء بحثهم عن هذه الصور. بدلاً من ذلك، استخدموا تقنية PhotoDNA من Microsoft، وهي أداة مصممة للكشف عن صور إساءة معاملة الأطفال عن طريق مطابقة الصور المهشمة مع محتوى إساءة معاملة معروف من قواعد بيانات مختلفة.

نتائج فريق ستانفورد التي تم إبلاغها بالمنظمات غير الربحية ذات الصلة في الولايات المتحدة وكندا، تؤكد الحاجة الملحة لإجراءات أكثر صرامة في تنقية مجموعات بيانات تدريب الذكاء الاصطناعي. يقترح الباحثون استخدام أدوات مثل PhotoDNA لتجميع مجموعات البيانات المستقبلية لتصفية المحتوى الضار. ومع ذلك، يسلطون الضوء أيضاً على التحديات في تنظيف مجموعات البيانات المفتوحة، خاصة في غياب سلطة استضافة مركزية.

رداً على التقرير، أزال LAION، أو الشبكة المفتوحة للذكاء الاصطناعي واسع النطاق، مجموعات بياناته مؤقتاً لضمان سلامتها قبل إعادة النشر. أكد LAION على سياسة عدم التسامح مع المحتوى غير القانوني والحاجة إلى الحذر في التعامل مع مثل هذه المواد الحساسة.

الآثار الأوسع والاستجابات

هذه القضية ليست محصورة في مجموعة البيانات المعنية. يشير تقرير ستانفورد إلى أن حتى عدد صغير من الصور المسيئة يمكن أن يؤثر بشكل كبير على أدوات الذكاء الاصطناعي، مما يمكنها من إنشاء آلاف من الصور العميقة. هذا يشكل تهديداً عالمياً للشباب والأطفال، لأنه لا يديم فقط بل يضخم أيضاً إساءة معاملة الضحايا الحقيقيين.

تم انتقاد التسرع في طرح العديد من مشاريع الذكاء الاصطناعي التوليدية، مع خبراء مثل كبير التقنيين في مرصد ستانفورد للإنترنت ديفيد ثيل الذين يدافعون عن انتباه أكثر صرامة لتجميع مجموعات البيانات. يؤكد ثيل أن مثل هذا الحفر الواسع النطاق عبر الإنترنت يجب أن يقتصر على عمليات البحث ولا يتم فتحه دون فحص دقيق.

في ضوء هذه النتائج، اتخذت Stability AI، وهي مستخدم بارز لمجموعة بيانات LAION، خطوات للتخفيف من مخاطر سوء الاستخدام. تم تصميم الإصدارات الأحدث من نموذج Stable Diffusion الخاص بها لجعل إنشاء المحتوى الضار أكثر صعوبة. ومع ذلك، لا يزال الإصدار الأقدم الذي تم إصداره العام الماضي يشكل مخاطر ويُستخدم على نطاق واسع في تطبيقات أخرى.

تباينت الاستجابات الدولية لهذه القضية. في الولايات المتحدة، تطلق الحكومة معهد سلامة الذكاء الاصطناعي لتقييم المخاطر التي تشكلها نماذج الذكاء الاصطناعي. وبالمثل، تطبق أستراليا خوارزميات جديدة لمنع مشاركة المواد الإباحية للأطفال التي أنشأها الذكاء الاصطناعي. في بريطانيا، اتفق مطورو الذكاء الاصطناعي الرائدون على العمل مع الحكومات لاختبار النماذج الجديدة قبل إصدارها.

شهد مؤتمر قمة سلامة الذكاء الاصطناعي العالمي في بريطانيا توقيع "إعلان بليتشي" من قبل أكثر من 25 دولة، بما في ذلك الولايات المتحدة والهند، وكذلك الاتحاد الأوروبي. يهدف هذا الاتفاق إلى وضع نهج مشترك للإشراف على الذكاء الاصطناعي، مما يؤكد التزام المجتمع الدولي بإدارة مخاطر الذكاء الاصطناعي بمسؤولية.

يثير اكتشاف مواد الإباحية للأطفال في مجموعات بيانات تدريب الذكاء الاصطناعي مخاوف أخلاقية وسلامية عميقة. ويبرز الحاجة إلى آليات أكثر صرامة لاختيار البيانات ومراقبتها في تطوير تقنيات الذكاء الاصطناعي. ومع استمرار تطور الذكاء الاصطناعي وتغلغله في جوانب مختلفة من الحياة، يصبح ضمان الاستخدام الأخلاقي والنشر الآمن لهذه التقنيات أمراً بالغ الأهمية بشكل متزايد.