حثّت شركات التكنولوجيا على مكافحة تزايد المواد الإباحية المتعلقة بالأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي

وصفت مؤسسة مراقبة الإنترنت (IWF) الخيرية البريطانية العام الماضي بأنه "الأكثر تطرفاً على الإطلاق"، حيث اكتشفت المؤسسة وجود 275,652 حالة مُقلقة من الاعتداء على الإنترنت، وكان عددٌ مُرعبٌ منهم ضحايا مُجبرين على إنتاج مواد إباحية. ودعت المؤسسة شركات التكنولوجيا والمنصات الإلكترونية إلى التحرك بسرعة، في ظل تباطؤ القوانين وتطور الذكاء الاصطناعي.

وذكر التقرير أن "كل عنوان URL يمكن أن يكشف عن صورة واحدة فقط، أو عشرات، أو مئات، أو حتى آلاف من صور أو مقاطع الفيديو الفردية للاعتداء الجنسي على الأطفال بدلاً من ذلك" (92٪) (مع الذات أو بالإكراه أو بمساعدة شبكة اجتماعية للتصرف عبر كاميرا الويب).

نتائج الاتحاد الدولي لوزن الجسم

بحسب الاتحاد الدولي للرفاهية، استُخلصت هذه الأرقام من خلال "بحث استباقي" وتحليل ما يقارب 400 ألف تقرير حول العالم عبر أكثر من 50 بوابة إلكترونية للإبلاغ. ويمثل هذا زيادة بنسبة 8% عن العام السابق.

كانت الولايات المتحدة الأمريكية الدولة الأولى بنسبة 14.8% من المواقع الإلكترونية، مع 41502 عنوان URL، بزيادة قدرها واحد في النسبة المئوية مقارنة بالعام الماضي الذي بلغت فيه نسبة الاستضافة 34%، أي ثلث إجمالي المواقع الإلكترونية الملحقة.

أفاد الاتحاد الدولي للإنترنت الآمن (IWF) بأن التحليل أظهر أن 2401 مقطع فيديو من إنتاج أطفال تتراوح أعمارهم بين 3 و6 سنوات، تم تصويرها ذاتيًا، تندرج ضمن هذه الفئة. وكانت أغلبية هؤلاء الأطفال من الفتيات، مما يُشير إلى أن المعتدين الذين يُعتبرون "انتهازيين" في الوقت الحاضر ينشطون بشكل كبير في الاعتداء الجنسي ليس فقط على أطفال المراهقين، بل على الأطفال الصغار أيضًا.

التدابير الواجب اتخاذها 

يرى الاتحاد الدولي للإنترنت الآمن (IWF) أن على شركات التكنولوجيا والمنصات الإلكترونية تعزيز إجراءات الأمان لحماية الأطفال على الإنترنت فورًا، بدلًا من انتظار الحكومات لاتخاذ إجراءات تنظيمية معقدة أو إضاعة المزيد من الوقت لدخول هذا النشاط حيز التنفيذ في المملكة المتحدة بموجب قانون السلامة على الإنترنت. وكشف الاتحاد أن فئة المحتوى شهدت أيضًا زيادة بنسبة 22% مقارنةً بعام 2022. ويُعدّ تزايد مشاهدة هذا المحتوى المتطرف أحد الاتجاهات، وفقًا للاتحاد؛ ففي الفترة من 2021 إلى 2022، زادت كمية محتوى الفئة (أ) بنسبة 38%. 

يتزايد عدد حالات الابتزاز الجنسي، أي استخدام صور أو ملفات أو معلومات أو مقاطع فيديو لأطفال، يستخدمها الجناة لابتزاز ضحاياهم والحصول على المزيد من الصور أو المال. سجلت الوكالة ست حالات فقط من هذا النوع في عام 2021، وهو العام الذي طبقت فيه آلية التتبع. وفي العام الماضي، أشارت إلى أنها رصدت 176 حالة ابتزاز جنسي. وأكدت المؤسسة أن الأدلة تقنيات الذكاء الاصطناعي باتت تشكل تهديدًا خطيرًا للأطفال على الإنترنت. وفي عام 2023، خلصت مؤسسة الإنترنت الآمنة (IWF) إلى أنها عالجت 51 صفحة ويب تحتوي على صور مُنشأة تلقائيًا لإساءة جنسية للأطفال، 38 منها تبدو وكأنها حقيقية. 

وبهذه الطريقة، أُدرجت هذه الصور في التقارير الإحصائية على أنها صور "حقيقية". إضافةً إلى ذلك، احتوت 228 رابطًا إلكترونيًا آخر على محتوى مُولّد بواسطة الذكاء الاصطناعي. ورغم أن نسبة ضئيلة فقط من المواد التي فحصتها مؤسسة IWF مُولّدة حاسوبيًا، إلا أن المؤسسة الخيرية تشعر بالقلق إزاء "إمكانية النمو السريع". وينطبق هذا بشكل خاص على مجالات مثل نشر أدلة حول كيفية إنشاء أو توزيع مواد إباحية للأطفال باستخدام الذكاء الاصطناعي، وهو ما قد يقع خارج الأطر القانونية القائمة. وذكرت مؤسسة IWF أنها عثرت على دليل نصي على موقع DW يشرح كيفية قيام الجناة بذلك. وعلقت المؤسسة قائلة: "لقد رأينا مثل هذا السلوك من قبل، لكن حقيقة أن هذا هو أول دليل على قيام مجرمين بالعمل معًا لتقديم المشورة والتشجيع لبعضهم البعض على استخدام الذكاء الاصطناعي لأغراض الدفاع عن النفس أمرٌ مقلق للغاية".