مجموعات بيانات تدريب الذكاء الاصطناعي تحمل مستويات مقلقة من مواد إساءة معاملة الأطفال جنسياً

في تحقيق حديث أجرته مرصد الإنترنت التابع لجامعة ستانفورد (SIO)، تم تحديد مئات الصور المعروفة لمواد إساءة معاملة الأطفال جنسياً (CSAM) في مجموعة بيانات مفتوحة تستخدم لتدريب نماذج توليد النصوص إلى الصور الشهيرة، بما في ذلك Stable Diffusion. تسلط النتائج الضوء على الاستخدام المقلق لمجموعات البيانات المتاحة علناً في تطوير نماذج الذكاء الاصطناعي (AI) المتقدمة.

كشف مصادر بيانات تدريب مقلقة

كشف تحقيق SIO أن هذه النماذج تم تدريبها مباشرة على مواد CSAM الموجودة في مجموعة البيانات LAION-5B، والتي تتكون من مليارات الصور المستمدة من منصات متنوعة، بما في ذلك مواقع التواصل الاجتماعي الرئيسية ومواقع الفيديو للبالغين الشائعة. يثير الكشف مخاوف بشأن الاستمرار غير المقصود في استغلال الأطفال من خلال استخدام مجموعات بيانات ملوثة بمحتوى غير قانوني وضار.

إجراءات سريعة لمعالجة المشكلة

بعد تحديد المواد المصدر، بدأ الباحثون عملية الإزالة عن طريق الإبلاغ عن عناوين URL للصور إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) في الولايات المتحدة ومركز كندا لحماية الطفل (C3P). لعبت أدوات التجزئة، مثل PhotoDNA، دوراً حاسماً في مطابقة بصمات الصور مع قواعد البيانات التي تحافظ عليها منظمات غير ربحية مكرسة لمكافحة الاستغلال والإساءة الجنسية للأطفال عبر الإنترنت.

تحديات تنظيف مجموعات البيانات المفتوحة

بينما توجد طرق لتقليل وجود مواد CSAM في مجموعات بيانات التدريب، يؤكد التقرير التحديات في تنظيف أو إيقاف توزيع مجموعات البيانات المفتوحة التي تفتقر إلى سلطة مركزية. يفتقر غياب كيان استضافة لهذه المجموعات البيانات إلى تعقيد الجهود لضمان سلامتها وسلامتها. يؤكد الدراسة على الحاجة إلى إجراءات استباقية لمنع الإدراج غير المقصود للمحتوى غير القانوني في بيانات تدريب الذكاء الاصطناعي.

توصيات السلامة للتعامل المستقبلي مع مجموعات البيانات

بناءً على هذه النتائج، يحدد التقرير توصيات السلامة لجمع مجموعات البيانات، وتدريب النماذج، واستضافة النماذج المدربة على مجموعات بيانات تم استخراجها. يدعو إلى فحوصات شاملة للصور ضد القوائم المعروفة لمواد CSAM باستخدام أدوات الكشف مثل PhotoDNA من Microsoft. كما يوصى بالتعاون مع منظمات سلامة الأطفال، مثل NCMEC وC3P، لضمان الاستخدام الأخلاقي والقانوني لتكنولوجيا الذكاء الاصطناعي.

مع استمرار تقدم الذكاء الاصطناعي، يصبح التعامل المسؤول مع مجموعات بيانات التدريب أمراً بالغ الأهمية لمنع المساهمة غير المقصودة في الأنشطة غير المشروعة. serves التحقيق SIO كصوت استيقاظ لمجتمع الذكاء الاصطناعي، حثاً لأصحاب المصلحة على اعتماد إجراءات صارمة في تنقية مجموعات البيانات، وتدريب النماذج، والتعاون مع وكالات حماية الطفل ذات الصلة.

رداً على هذه الكشف، يتم حث مجتمع الذكاء الاصطناعي على إعادة تقييم معاييره الأخلاقية واتخاذ إجراءات حاسمة لمعالجة الاستخدام غير المقصود لمواد CSAM في مجموعات بيانات التدريب. من خلال تنفيذ تدابير السلامة الموصى بها، يمكن للصناعة المساهمة في تطوير تكنولوجيا الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية، وحماية ضد العواقب غير المقصودة لمصادر مجموعات البيانات غير الخاضعة للرقابة.

تؤكد نتائج تحقيق SIO على أهمية اليقظة في عصر يجب أن تصاحب فيه التطورات التكنولوجية التزام قوي بتطوير الذكاء الاصطناعي الأخلاقي. التعاون بين الباحثين وقادة الصناعة ومنظمات حماية الطفل ضروري لضمان أن تكنولوجيا الذكاء الاصطناعي تتقدم بطريقة تتماشى مع القيم المجتمعية وتعطي الأولوية لرفاهية الأفراد الضعفاء.