مؤسسة مراقبة الإنترنت تحذر من أن تطورات الذكاء الاصطناعي قد تفاقم مشكلة المواد الإباحية للأطفال

منظمة مراقبة الإنترنت (IWF) قلقة من أن انتشار المواد الإباحية للاستغلال الجنسي للأطفال (CSAM) المولدة بالذكاء الاصطناعي على الإنترنت قد يستمر في الارتفاع، مدفوعاً بالتقدم في أدوات الذكاء الاصطناعي.

اقرأ أيضًا: التزييف العميق بالذكاء الاصطناعي يجعل من الصعب على السلطات الأمريكية حماية الأطفال - تقرير

أشار حارس السلامة إلى أنه مع تطور أدوات الذكاء الاصطناعي التوليدي، أصبح من الصعب أيضاً التمييز بين الصور أو مقاطع الفيديو الحقيقية والمحتوى المزيف الذي يولده الذكاء الاصطناعي. ووفقاً للمنظمة، أصبحت الصور التي أنشأها الذكاء الاصطناعي في عام 2024 أكثر "واقعية" من تلك التي شوهدت لأول مرة في عام 2023.

منظمة مراقبة الإنترنت ترى زيادة في المواد الإباحية للاستغلال الجنسي للأطفال

منظمة مراقبة الإنترنت قلقة من أن المزيد من مواد CSAM المولدة بالذكاء الاصطناعي قد تجد طريقها إلى الإنترنت بما يستغل المتحرشون التقدم في تقنية الذكاء الاصطناعي، مما يجعل الأدوات أسهل في الاستخدام وأكثر انتشاراً. وقد لاحظ حارس السلامة بالفعل زيادة في مواد CSAM المولدة بالذكاء الاصطناعي على الإنترنت.

لقد لاحظت المنظمة بالفعل حالات لتلاعب بمواد CSAM، بينما شملت حالات أخرى إباحية للبالغين ولكن مع استخدام وجه طفل في اللقطات. ووفقاً لمنظمة مراقبة الإنترنت، تضمنت بعض المحتويات مقاطع فيديو مدتها حوالي 20 ثانية.

كشف دان سيكستون، كبير مسؤولي التكنولوجيا في منظمة مراقبة الإنترنت، عن وجود احتمالات لظهور المزيد من مواد CSAM المولدة بالذكاء الاصطناعي إذا اتبعت أدوات فيديو الذكاء الاصطناعي نفس اتجاه أدوات توليد الصور، حيث تتطور التكنولوجيا بسرعة هائلة.

"سأقول بشكل مبدئي أنه إذا اتبعت نفس الاتجاهات، فسنرى المزيد من مقاطع الفيديو،" قال.

وأضاف سيكستون أن الاحتمالات عالية أيضاً بأن تكون مقاطع فيديو الذكاء الاصطناعي المستقبلية "ذات جودة أعلى وواقعية".

وفقاً لمحللي منظمة مراقبة الإنترنت، كانت معظم مقاطع الفيديو التي راجعتها المنظمة على منتدى داكن من قبل المتحرشين جنسياً عبارة عن ديب فيك جزئي. في هذه الحالة، تم استخدام نماذج الذكاء الاصطناعي المتاحة مجاناً عبر الإنترنت لتعديل الصور، بما في ذلك تلك الخاصة بضحايا CSAM المعروفين، على مقاطع فيديو CSAM موجودة وإباحية للبالغين.

وجدت المنظمة تسعة مقاطع فيديو من هذا النوع، بينما كانت عدد قليل من مقاطع الفيديو المصنوعة بالكامل بالذكاء الاصطناعي ذات جودة أساسية.

(1/4) #AI مشهد المواد الإباحية للاستغلال الجنسي للأطفال – في العام الماضي، كنا من أوائل من رفعوا ناقوس الخطر حول انتشار صور #AI واقعية مولدة بالذكاء الاصطناعي للاستغلال الجنسي للأطفال… pic.twitter.com/s4igkjHH78

— Internet Watch Foundation (IWF) (@IWFhotline) 22 يوليو 2024

حارس السلامة يريد تجريم إنتاج مواد CSAM

تدفع منظمة مراقبة الإنترنت الآن نحو قوانين تجرم إنتاج مثل هذه المواد، بما في ذلك صنع أدلة لإنشاء مثل هذا المحتوى. ويجب أيضاً تجريم تطوير الأدوات والمنصات التي تتيح إنشاء مواد CSAM.

يأتي هذا في وقت كشفت فيه دراسة أجريت هذا العام على منتدى واحد في الويب المظلم عن نشر 12,000 صورة جديدة مولدة بالذكاء الاصطناعي على مدار فترة شهر واحد.

ووفقاً لمنظمة مراقبة الإنترنت، كانت تسعة من أصل 10 من تلك الصور واقعية، ويمكن مقاضاتها بموجب نفس القوانين البريطانية التي تغطي مواد CSAM الحقيقية.

اقرأ أيضًا: رجل من تكساس يُحكم عليه بالسجن لشراء مواد إباحية للأطفال باستخدام العملات المشفرة

في العام الماضي، قال المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) إنه تلقى تقارير عديدة عن متحرشين يستخدمون الذكاء الاصطناعي بطرق مختلفة، مثل إدخال مطالبات نصية لإنشاء صور استغلال الأطفال. وفي بعض الحالات، قام المتحرشون بتعديل الصور المرفوعة مسبقاً لجعلها صريحة جنسياً ومسيئة.

أبرزت الرئيس التنفيذي لمؤسسة IWF، سوزي هارغريفز، الحاجة إلى تنظيم أدوات الذكاء الاصطناعي التوليدي للحد من انتشار المواد الإباحية للأطفال.

"بدون ضوابط مناسبة، توفر أدوات الذكاء الاصطناعي التوليدي ملعبًا للمجرمين عبر الإنترنت لتحقيق أكثر أحلامهم انحرافًا ومقززة،" قالت هارغريفز.

أضافت هارغريفز أن مؤسسة IWF بدأت ترى المزيد من المواد الإباحية للأطفال يتم مشاركتها وبيعها على مواقع إساءة المعاملة الجنسية للأطفال التجارية.

وفقًا لصحيفة الغارديان، كشفت منظمة أخرى تشغل خطًا ساخنًا للإبلاغ عن الإساءة أنها وجدت مواد إباحية للأطفال مصنوعة بالذكاء الاصطناعي معروضة للبيع على منصات عبر الإنترنت من قبل الجناة.