ميتا تطلق أدوات الذكاء الاصطناعي لحماية القاصرين من ابتزاز الجنس

في الآونة الأخيرة، اتهمت ميتا بإلحاق الضرر بالصحة العقلية للمراهقين، وتقوم أكثر من 40 ولاية بمقاضاتها، زاعمة أنها "تستفيد من ألم الأطفال". وقد اتهم سياسيون أمريكيون ميتا بإزعاج الصحة النفسية للشباب. أعلنت ميتا يوم الخميس أنها تطور أدوات تعتمد على الذكاء الاصطناعي لحماية الأطفال من عمليات الاحتيال بالابتزاز الجنسي على إنستغرام. 

تقود عصابات عمليات احتيال بالابتزاز الجنسي على إنستغرام، حيث تقنع المراهقين بمشاركة صورهم الصريحة ثم تطلب منهم المال أو تهدد بنشر الصور على الإنترنت. 

الابتزاز المالي المالي وتدابير السلامة

أعلنت ميتا أنها تختبر أدوات تعتمد على الذكاء الاصطناعي لمواجهة الوضع المالي. وتُقال إن هذه الأدوات توفر حماية من العري عن طريق طمس الصور التي يكتشف الذكاء الاصطناعي أنها تحتوي على عار أثناء إرسالها إلى القاصرين في رسائل إنستغرام. وقالت كابوسين توفييه، المسؤولة عن حماية الأطفال في ميتا فرنسا، لوكالة فرانس برس إن هذا سيساعد في حماية الأطفال من التعرض لمحتوى حميمي غير مرغوب فيه، وسيعطيهم خيار ما إذا كانوا يريدون رؤية الصورة أم لا، فعندما يتلقى شخص ما مثل هذه الرسالة، ستظهر شاشة تحذيرية فوق الصورة الممسوحة.

قالت ميتا إنها ستقدم أيضاً نصائح وإرشادات السلامة لأي شخص يتلقى أو يرسل مثل هذه الرسائل، مما يوفر مساعدة في الوقت المناسب. ستظهر رسالة على الشاشة تشجع المستخدم على عدم الشعور بالضغط للرد على الاحتيال المحتمل، وتوفر أيضاً خيار حظر المرسل والإبلاغ عن الحادث.

وفقاً للإحصاءات الصادرة عن السلطات، وُجد أن ما يقرب من 3000 شاب ضحية لعمليات احتيال بالابتزاز الجنسي في عام 2022 في الولايات المتحدة وحدها. في أكتوبر الماضي، رفعت أكثر من 40 ولاية دعوى قضائية ضد الشركة الأم لإنستغرام، ميتا، في قضية زعمت أن الشركة استفادت من ألم الأطفال. واتهمت الشركة بتصميم نموذج أعمال يستغل المستخدمين الشباب من خلال قضاء أقصى وقت على منصتها، على الرغم من الضرر الذي يلحق بصحتهم العقلية ورفاهيتهم. 

ميتا تعمل على حلول التعلم الآلي على الجهاز

في بداية العام الجديد، كشفت ميتا أنها ستطلق استراتيجيات لحماية القاصرين دون سن 18 من خلال تقييد سياسات استخدام المحتوى وزيادة الرقابة الأبوية على منصتها. وفي يوم أمس، قالت ميتا إن أدواتها الأحدث تعتمد على عملها الراسخ فيما يتعلق بحماية الأشخاص القاصرين من التفاعلات السلبية أو الضارة المحتملة.

قالت ميتا في منشور،

"نحن نختبر ميزات جديدة لمساعدة الشباب على الحماية من الابتزاز الجنسي وسوء استخدام الصور الحميمة، وجعل من الصعب على المحتالين والمجرمين المحتملين العثور على المراهكات والتفاعل معهن."

المصدر: Meta

أضافت ميتا أيضاً،

"تستخدم حماية العار التعلم الآلي على الجهاز لتحليل ما إذا كانت الصورة المرسلة في رسالة خاصة على إنستغرام تحتوي على عار. ونظراً لأن الصور يتم تحليلها على الجهاز نفسه، فإن حماية العار ستعمل في المحادثات المشفرة من طرف إلى طرف، حيث لن يكون لميتا وصول إلى هذه الصور - ما لم يختار شخص ما الإبلاغ عنها لنا."

المصدر: ميتا

كما حثت ميتا على فحص الحسابات المحتملة التي ترسل محتوى غير لائق وفرض قيود صارمة عليها عند التواصل مع المستخدمين القاصرين. وعلى الرغم من أننا نعلم أن ميتا اتهمت بانتهاك خصوصية بيانات مستخدميها في مناسبات عديدة، إلا أن هذه الإجراءات تبدو في الاتجاه الصحيح. لكن الشركة أشارت أيضاً إلى أنها لن تتمكن من الوصول إلى الصور غير المناسبة ما لم يتم الإبلاغ عنها من قبل المستخدمين.

هذه القصة مستمدة من مدونة ميتا.