تشعر مؤسسة مراقبة الإنترنت (IWF) بالقلق من أن انتشار المواد المتعلقة بالاعتداء الجنسي على الأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي (CSAM) على الإنترنت قد يستمر في الارتفاع، مدفوعًا بالتقدم في أدوات الذكاء الاصطناعي.
اقرأ أيضاً: تقرير: تقنية التزييف العميق بالذكاء الاصطناعي تُصعّب على السلطات الأمريكية حماية الأطفال
أشارت هيئة مراقبة السلامة إلى أنه مع تطور أدوات الذكاء الاصطناعي التوليدية، بات من الصعب التمييز بين الصور أو مقاطع الفيديو الحقيقية والمحتوى المُولّد بالذكاء الاصطناعي. ووفقًا للهيئة، أصبحت الصور المُولّدة بالذكاء الاصطناعي منذ عام 2024 أكثر "واقعية" من تلك التي ظهرت لأول مرة في عام 2023.
مؤسسة مراقبة الإنترنت تلاحظ زيادة في استغلال الأطفال جنسياً عبر الإنترنت
يشعر الاتحاد الدولي للإنترنت بالقلق من احتمال انتشار المزيد من المواد الإباحية الإلكترونية التي تُنتجها تقنيات الذكاء الاصطناعي على الإنترنت ، حيث يستغل المنحرفون التطورات في هذا المجال، مما يجعل استخدام هذه الأدوات أسهل وأكثر انتشارًا. وقد رصدت هيئة مراقبة السلامة بالفعل زيادة في هذه المواد على الإنترنت.
رصدت المنظمة بالفعل حالات تلاعب بمحتوى استغلال الأطفال جنسيًا، بينما تضمنت حالات أخرى مواد إباحية للبالغين مع استخدام وجه طفل في اللقطات. ووفقًا لمؤسسة الإنترنت الآمنة، تضمنت بعض المحتويات مقاطع فيديو مدتها حوالي 20 ثانية.
كشف دان سيكستون، كبير مسؤولي التكنولوجيا في IWF، عن وجود احتمالات لظهور المزيد من أدوات الذكاء الاصطناعي لاستغلال الأطفال جنسياً إذا اتبعت أدوات الفيديو التي تعمل بالذكاء الاصطناعي نفس اتجاه أدوات توليد الصور التي تعمل بالذكاء الاصطناعي، حيث تنمو التكنولوجيا بوتيرة سريعة.
وقال: "أود أن أقول مبدئياً أنه إذا سارت الأمور على نفس المنوال، فسنرى المزيد من الفيديوهات".
وأضاف سيكستون أن الاحتمالات عالية أيضاً بأن تكون مقاطع الفيديو المستقبلية التي تعمل بالذكاء الاصطناعي ذات "جودة وواقعية أعلى"
بحسب محللي منظمة IWF، فإن معظم مقاطع الفيديو التي راجعتها المنظمة على منتدى مظلم من قبل المتحرشين بالأطفال كانت عبارة عن تزييف عميق جزئي. في هذه الحالة، استُخدمت نماذج الذكاء الاصطناعي المتاحة مجانًا على الإنترنت للتلاعب بالصور، بما في ذلك صور ضحايا استغلال الأطفال جنسيًا المعروفين، في مقاطع فيديو موجودة لاستغلال الأطفال جنسيًا ومواد إباحية للبالغين.
عثرت المنظمة على تسعة مقاطع فيديو من هذا القبيل، في حين أن عددًا قليلاً من مقاطع الفيديو المصنوعة بالكامل بواسطة الذكاء الاصطناعي كانت ذات جودة أساسية.
(١/٤) باستخدام الذكاء الاصطناعي - في العام الماضي، كنا من أوائل من دق ناقوس الخطر بشأن انتشار صور واقعية الذكاء الاصطناعي للاعتداء الجنسي على الأطفال... pic.twitter.com/s4igkjHH78
— مؤسسة مراقبة الإنترنت (IWF) (@IWFhotline) ٢٢ يوليو ٢٠٢٤
تسعى هيئة الرقابة إلى تجريم إنتاج المواد الإباحية للأطفال
يسعى الاتحاد الدولي للإنترنت الآن إلى سنّ قوانين تجرّم إنتاج هذه المواد، بما في ذلك وضع أدلة إرشادية لإنتاجها. كما ينبغي تجريم تطوير الأدوات والمنصات التي تُمكّن من إنشاء مواد إباحية للأطفال.
يأتي هذا في الوقت الذي كشفت فيه دراسة أجريت هذا العام على منتدى واحد على الإنترنت المظلم عن نشر 12000 صورة جديدة تم إنشاؤها بواسطة الذكاء الاصطناعي على مدار شهر كامل.
وفقًا لـ IWF، فإن تسعة من أصل عشرة من تلك الصور كانت واقعية، ويمكن مقاضاتهم بموجب نفس قوانين المملكة المتحدة التي تغطي المواد الإباحية الإلكترونية الحقيقية.
اقرأ أيضاً: الحكم على رجل من تكساس بتهمة شراء مواد إباحية للأطفال باستخدام العملات المشفرة
في العام الماضي، أفاد المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) بتلقيه العديد من البلاغات عن استخدام منحرفين للذكاء الاصطناعي بطرق مختلفة، مثل إدخال نصوص لإنشاء صور مسيئة للأطفال. وفي بعض الحالات، قام هؤلاء المعتدون بتعديل صور سبق تحميلها لجعلها ذات محتوى جنسي صريح ومسيء.
أكدت سوزي هارجريفز، الرئيسة التنفيذية لمؤسسة IWF، على ضرورة تنظيم أدوات الذكاء الاصطناعي التوليدي للحد من انتشار المواد الإباحية المتعلقة بالأطفال.
"بدون ضوابط مناسبة، توفر أدوات الذكاء الاصطناعي التوليدية ملعبًا للمفترسين عبر الإنترنت لتحقيق أكثر تخيلاتهم انحرافًا وإثارة للاشمئزاز"، كما قال هارجريفز.
وأضاف هارجريفز أن الاتحاد الدولي للإنترنت بدأ يلاحظ زيادة في مشاركة وبيع مواد الاستغلال الجنسي للأطفال على مواقع الاستغلال الجنسي التجاري للأطفال.
بحسب صحيفة الغارديان، كشفت منظمة أخرى تدير خطاً ساخناً للإبلاغ عن الإساءة أنها عثرت على مواد إباحية للأطفال تم إنتاجها بواسطة الذكاء الاصطناعي معروضة للبيع على منصات الإنترنت من قبل الجناة.
