تعتزم شركة ميتا إطلاق أدوات الذكاء الاصطناعي لحماية القاصرين من الابتزاز الجنسي

في الآونة الأخيرة، وُجهت اتهامات لشركة ميتا بالإضرار بالصحة النفسية للمراهقين، ورفعت أكثر من 40 ولاية دعاوى قضائية ضدها، مدعيةً أنها "تربح من معاناة الأطفال". كما اتهم سياسيون أمريكيون ميتا بالتأثير سلبًا على الصحة النفسية للشباب. وأعلنت ميتا يوم الخميس أنها تعمل على تطوير أدوات تعتمد على الذكاء الاصطناعي لحماية الأطفال من عمليات الابتزاز الجنسي على إنستغرام. 

تقوم عصابات على إنستغرام بعمليات ابتزاز جنسي لإقناع المراهقين بمشاركة صورهم الفاضحة، ثم يطالبون بالمال أو يهددون بنشر الصور للعامة على الإنترنت. 

الابتزاز المالي الجنسي وإجراءات السلامة

أعلنت شركة ميتا أنها تختبر أدوات تعتمد على الذكاء الاصطناعي لمواجهة الأزمة المالية. وتُفيد التقارير بأن هذه الأدوات توفر حماية من المحتوى العاري من خلال تشويش الصور التي يكتشفها الذكاء الاصطناعي عند إرسالها إلى القاصرين عبر رسائل إنستغرام. وصرحت كابوسين توفييه، المسؤولة عن حماية الطفل في ميتا فرنسا، لوكالة فرانس برس، بأن هذا الإجراء سيساعد في حماية الأطفال من التعرض لمحتوى حميمي غير مرغوب فيه، كما يمنحهم خيار رؤية الصورة أو حجبها، إذ ستظهر شاشة تحذير فوق الصورة المشوشة عند تلقي أي شخص رسالة من هذا القبيل.

أعلنت شركة ميتا أنها ستقدم نصائح وإرشادات أمنية لكل من يتلقى أو يرسل مثل هذه الرسائل، موفرةً بذلك مساعدة فورية. ستظهر رسالة على الشاشة تحث المستخدم على عدم الشعور بالضغط للاستجابة للخداع المحتمل، كما ستوفر خيارًا لحظر المرسل والإبلاغ عنdent.

بحسب إحصائيات السلطات، وقع ما يقارب 3000 شاب ضحية لعمليات ابتزاز جنسي في الولايات المتحدة وحدها عام 2022. وفي أكتوبر الماضي، رفعت أكثر من 40 ولاية دعوى قضائية ضد شركة ميتا، الشركة الأم لإنستغرام، متهمةً إياها بالتربح من معاناة الأطفال. واتُهمت الشركة بتصميم نموذج عمل يستغل المستخدمين الصغار من خلال إجبارهم على قضاء أطول وقت ممكن على منصتها، متجاهلةً الأضرار التي تلحق بصحتهم النفسية وسلامتهم. 

تعمل شركة ميتا على حلول التعلم الآلي على الجهاز

مع بداية العام الجديد، كشفت شركة ميتا عن نيتها إطلاق استراتيجيات لحماية القاصرين دون سن الثامنة عشرة، وذلك من خلال تقييد سياسات استخدام المحتوى وتعزيز الرقابة الأبوية على منصتها. وأعلنت ميتا أمس أن أحدث أدواتها تستند إلى جهودها المتواصلة في مجال حماية القاصرين من أي تفاعلات سلبية أو ضارة محتملة.

قالت ميتا في منشور لها:

"نحن نختبر ميزات جديدة للمساعدة في حماية الشباب من الابتزاز الجنسي وإساءة استخدام الصور الحميمة، ولجعل من الصعب على المحتالين والمجرمين المحتملين العثور على المراهقين والتفاعل معهم."

المصدر: ميتا

وأضافت ميتا أيضاً:

تستخدم ميزة حماية الصور العارية تقنية التعلم الآلي على الجهاز لتحليل ما إذا كانت الصورة المرسلة في رسالة خاصة على إنستغرام تحتوي على صور عارية. ولأن الصور تُحلل على الجهاز نفسه، ستعمل هذه الميزة في المحادثات المشفرة من طرف إلى طرف، حيث لن تتمكن ميتا من الوصول إلى هذه الصور إلا إذا قام أحد المستخدمين بالإبلاغ عنها

المصدر: ميتا

كما حثت شركة ميتا على فحص الحسابات المحتملة التي تنشر محتوىً غير لائق، وفرض قيود صارمة عليها عند التواصل مع المستخدمين القاصرين. ورغم أننا نعلم أن ميتا قد اتُهمت بانتهاك خصوصية بيانات في مناسبات عديدة، إلا أن هذه الإجراءات تبدو في الاتجاه الصحيح. وأشارت الشركة أيضًا إلى أنها لن تتمكن من الوصول إلى الصور غير اللائقة إلا إذا أبلغ عنها المستخدمون.

هذه القصة مأخوذة من مدونة ميتا.