يُطلب من شركات التكنولوجيا مكافحة الارتفاع في المواد المولدة بالذكاء الاصطناعي لإساءة المعاملة الجنسية للأطفال

أُطلق على العام الماضي لقب "أكثر عام تطرّفًا على الإطلاق" من قبل مؤسسة الإنترنت الخيرية في المملكة المتحدة (IWF)، التي اكتشفت عددًا مقلقًا يبلغ 275,652 صورة من صور استغلال الأطفال جنسيًا عبر الإنترنت، مع وجود عدد مرعب من الجناة الذين أجبروا ضحاياهم على إنتاج مواد صريحة – ودعت الشركات التكنولوجية ومنصات الإنترنت إلى التحرك بسرعة – حيث تباطأت اللوائح وتأخرت تقنيات الذكاء الاصطناعي.

"يمكن لكل عنوان URL أن يكشف عن واحد فقط، أو عشرة، أو مئات أو حتى آلاف من صور أو مقاطع فيديو إساءة المعاملة الجنسية للأطفال الفردية بدلاً من ذلك"، قال التقرير (92%) (مع الذات أو الإكراه أو بمساعدة الشبكة الاجتماعية لأداء عبر كاميرا ويب).

نتائج IWF

وفقاً لـ IWF، استُخرجت الأرقام من "البحث الاستباقي" وتحليل ما يقرب من 400,000 تقرير من جميع أنحاء العالم من خلال أكثر من 50 بوابة إبلاغ. وهذا يمثل زيادة بنسبة 8% عن العام السابق.

كانت الولايات المتحدة الدولة الأعلى بنسبة 14.8% من المواقع، مع 41,502 عنوان URL، بزيادة بنسبة جزء من الدولة كاستضافة على مدار العام الماضي بنسبة 34%， ثلث إجمالي المواقع المرفقة.

قالت IWF إن التحليل أظهر أن 2,401 فيديو مولد ذاتياً لأطفال تتراوح أعمارهم بين 3-6 سنوات كانت خارج هذا. معظم هؤلاء الأطفال كانوا فتيات، وهو علم يوضح كيف أن المعتدين الذين يُعتبرون "فرصيين" في الوقت الحاضر نشطون جداً في الإساءة الجنسية ليس فقط مع الأطفال المراهقين ولكن مع الأطفال الصغار أيضاً.

الإجراءات المتخذة 

إن موقف IWF هو أن "شركات التكنولوجيا والمنصات عبر الإنترنت" يجب أن تعزز فوراً مثل هذه التدابير الأمنية للأطفال عبر الإنترنت بدلاً من الاعتماد على الحكومات في اتخاذ إجراء تنظيمي مؤلم جداً أو فقدان المزيد من الوقت لدخول هذا النشاط حيز التنفيذ في المملكة المتحدة بقانون السلامة عبر الإنترنت الخاص بها. كشفت IWF أن فئة المواد شهدت أيضاً زيادة بنسبة 22% مقارنة بعام 2022. مثل هذا المحتوى المتطرف الذي يتم عرضه بشكل متكرر هو أحد الاتجاهات، وفقاً لـ IWF؛ من عام 2021 إلى عام 2022، زادت كمية محتوى الفئة A بنسبة 38%. 

يزداد أيضاً عدد حالات الابتزاز الجنسي - استخدام صور/ملفات للأطفال، معلومات، أو مقاطع فيديو يمكن للمجرمين استخدامها بعد ذلك لابتزاز ضحاياهم مقابل المزيد من الصور/المال - سجلت الوكالة 6 حالات فقط من هذا النوع في عام 2021 عندما أدخلت آلية التوقف. العام الماضي، ذكرت أن المؤسسة شهدت 176 حالة متعلقة بالابتزاز الجنسي. شددت المؤسسة على أن الأدلة الذكاء الاصطناعي يتلقاها ويولدها أصبحت تهديداً خطيراً للأطفال على الإنترنت. في عام 2023، خلصت IWF إلى أنها عالجت 51 صفحة ويب تحتوي على صور مولدة آلياً لإساءة المعاملة الجنسية للأطفال، 38 منها تبدو وكأنها حقيقية.

بهذه الطريقة، تم احتواؤها في التقارير الإحصائية كصور "حقيقية". بالإضافة إلى ذلك، كان هناك 228 عنوان URL آخر يحتوي على محتوى مولد بالذكاء الاصطناعي. على الرغم من أن نسبة صغيرة فقط من المواد التي تدرسها IWF مولدة بالحاسوب، فإن المؤسسة الخيرية منزعجة بسبب "الإمكانية الكبيرة للنمو السريع". هذا هو الحال، خاصة في المجالات مثل نشر أدلة حول كيفية إنشاء أو توزيع مواد إباحية للأطفال من خلال الذكاء الاصطناعي، والتي قد تقع خارج الأطر القانونية الحالية. قالت IWF إنها صادفت نص دليل على DW يشرح كيف أن المجرمين "لقد رأينا مثل هذا السلوك من قبل، لكن حقيقة أن هذا هو الدليل الأول على عمل المجرمين بتآمر لنصح وتشجيع بعضهم البعض على استخدام الذكاء الاصطناعي لأغراض الدفاع عن النفس أمر مثير للقلق بشكل خاص" علقت IWF زاعمة.