تحتوي مجموعات بيانات تدريب الذكاء الاصطناعي على مستويات مقلقة من مواد الاعتداء الجنسي على الأطفال

في تحقيق حديث أجراه مرصد ستانفورد للإنترنت (SIO)، تمdentمئات الصور المعروفة لمواد استغلال الأطفال جنسيًا (CSAM) في مجموعة بيانات مفتوحة تُستخدم لتدريب نماذج الذكاء الاصطناعي الشائعة لتحويل النصوص إلى صور، بما في ذلك نموذج الانتشار المستقر. وتُسلط هذه النتائج الضوء على الاستخدام المقلق لمجموعات البيانات المتاحة للعموم في تطوير نماذج الذكاء الاصطناعي المتقدمة.

الكشف عن مصادر بيانات التدريب المقلقة

كشف تحقيق مكتب التحقيقات الفيدرالي أن نماذج الذكاء الاصطناعي هذه دُرّبت مباشرةً على مواد استغلال الأطفال جنسيًا الموجودة في مجموعة بيانات LAION-5B، والتي تضم مليارات الصور من مصادر متنوعة، بما في ذلك مواقع التواصل الاجتماعي الرئيسية ومواقع الفيديو الإباحية الشهيرة. ويثير هذا الكشف مخاوف بشأن استمرار استغلال الأطفال دون قصد من خلال استخدام مجموعات بيانات ملوثة بمحتوى غير قانوني وضار.

اتخاذ إجراءات سريعة لمعالجة المشكلة

بعدdentمصدر المحتوى، باشر الباحثون عملية الإزالة بالإبلاغ عن روابط الصور إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) في الولايات المتحدة والمركز الكندي لحماية الطفل (C3P). وقد لعب استخدام أدوات التشفير، مثل PhotoDNA، دورًا حاسمًا في مطابقة بصمات الصور مع قواعد البيانات التي تديرها منظمات غير ربحية تُعنى بمكافحة الاستغلال والاعتداء الجنسي على الأطفال عبر الإنترنت.

تحديات تنظيف مجموعات البيانات المفتوحة

رغم وجود طرق للحد من وجود المحتوى الإباحي للأطفال في مجموعات بيانات التدريب، يُبرز التقرير التحديات التي تواجه تنظيف أو وقف توزيع مجموعات البيانات المفتوحة التي تفتقر إلى جهة مركزية. ويُعقّد غياب جهة استضافة لهذه البيانات الجهود المبذولة لضمان سلامتها وأمنها. وتؤكد الدراسة على ضرورة اتخاذ تدابير استباقية لمنع إدراج محتوى غير قانوني عن غير قصد في بيانات تدريب الذكاء الاصطناعي.

توصيات السلامة للتعامل مع مجموعات البيانات المستقبلية

في ضوء هذه النتائج، يحدد التقرير توصيات السلامة المتعلقة بجمع مجموعات البيانات، وتدريب النماذج، واستضافة النماذج المدربة على مجموعات البيانات المستخرجة. ويدعو التقرير إلى إجراء فحوصات دقيقة للصور مقابل قوائم معروفة لمحتوى استغلال الأطفال جنسيًا عبر الإنترنت باستخدام أدوات الكشف مثل PhotoDNA من مايكروسوفت. كما يوصي بالتعاون مع منظمات حماية الطفل، مثل المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) وبرنامج C3P، لضمان الاستخدام الأخلاقي والقانوني لتقنية الذكاء الاصطناعي.

مع استمرار تطور الذكاء الاصطناعي، بات التعامل المسؤول مع مجموعات بيانات التدريب أمراً بالغ الأهمية لمنع المساهمة غير المقصودة في أنشطة غير مشروعة. ويُعدّ تحقيق مكتب التحقيقات الرئيسي بمثابة جرس إنذار لمجتمع الذكاء الاصطناعي، يحثّ الجهات المعنية على تبني تدابير صارمة في إدارة مجموعات البيانات، وتدريب النماذج، والتعاون مع وكالات حماية الطفل ذات الصلة.

استجابةً لهذه الاكتشافات، يُطلب من مجتمع الذكاء الاصطناعي إعادة تقييم معاييره الأخلاقية واتخاذ إجراءات حاسمة لمعالجة الاستخدام غير المقصود لبرامج استغلال الأطفال جنسيًا في مجموعات بيانات التدريب. من خلال تطبيق تدابير السلامة الموصى بها، يمكن للقطاع المساهمة في تطوير تقنية الذكاء الاصطناعي بطريقة مسؤولة وأخلاقية، والحماية من العواقب غير المقصودة لمصادر البيانات غير المُدققة.

تؤكد نتائج تحقيق مكتب أمين المظالم لأمن المعلومات على أهمية اليقظة في عصرٍ يتطلب فيه التقدم التكنولوجي التزاماًtronبتطوير الذكاء الاصطناعي الأخلاقي. ويُعدّ التعاون بين الباحثين وقادة الصناعة ومنظمات حماية الطفل أمراً بالغ الأهمية لضمان تطور تقنية الذكاء الاصطناعي بما يتماشى مع القيم المجتمعية ويُعطي الأولوية لرفاهية الأفراد المستضعفين.