دعوى قضائية من مدعي سان فرانسيسكو العام لإغلاق المواقع التي تستخدم الذكاء الاصطناعي لإنشاء صور عارية مزيفة

أعلن مدعي سان فرانسيسكو العام، ديفيد تشيو، أن مكتبه يرفع دعوى قضائية ضد 16 موقعاً إلكترونياً تستخدم الذكاء الاصطناعي لتطوير وتوزيع صور عارية مزيفة (ديب فيك) غير متفق عليها للنساء والفتيات. ويأتي ذلك في ظل اهتمام متزايد بإنشاء وتوزيع صور غير متفق عليها باستخدام الذكاء الاصطناعي.

ووفقاً لتشيو، فإن الدعوى القضائية هي من نوعها الأولى في سان فرانسيسكو، وتلوم مشغلي المواقع على انتهاك القوانين الحكومية الاتحادية التي تدين إباحية الديب فيك، وإباحية الأطفال، والمواد الإباحية الانتقامية، فضلاً عن قانون المنافسة غير العادلة في كاليفورنيا.

تريد تشيو إثارة الذعر بشأن هذه الممارسة السيئة

ووفقاً لـ نيويورك تايمز، كانت هذه المبادرة من فكرة نائب المدعي العام الأول إيفون مير، التي حشدت زملاءها لصياغة دعوى قضائية، من شأنها أن تؤدي إلى إغلاق 16 موقعاً إلكترونياً.

تم цензуرة أسماء المواقع في نسخة الدعوى القضائية المتاحة للجمهور يوم الخميس.

بينما قال مكتب المدعي العام إنه لم يتعرف بعد على معظم مالكي المواقع، أعرب مسؤولو المكتب عن تفاؤله بشأن معرفة أسماء مالكي المواقع ومحاسبتهم.

أثناء مؤتمر صحفي يوم الخميس، كشفت تشيو أن المواقع تنتج مواد «إباحية» دون موافقة. وإلى جانب إثارة الذعر وإنهاء هذا النوع من «الإيذاء الجنسي»، ألمحت تشيو إلى أنه ينبغي للقضية أيضاً إغلاق المواقع المذكورة.

«لقد أخذتنا هذه التحقيقات إلى أعمق زوايا الإنترنت، وأنا مذعورة تماماً للنساء والفتيات اللواتي اضطررن لتحمل هذا الاستغلال.»

تشيو.

على المواقع المذكورة، يقوم المستخدمون برفع صور لأشخاص حقيقيين مرتدين ملابس كاملة، ويستخدمون الذكاء الاصطناعي لإنشاء صور لنساء وفتيات عاريات. تم تدريب نماذج الذكاء الاصطناعي الخاصة بالمواقع على مواد إباحية حقيقية وصور لإساءة معاملة الأطفال لإنشاء صور مزيفة.

وكما أشارت إلى ذلك الدعوى القضائية، تروج إحدى المواقع للطابع غير المتفق عليه للصور، مُصرّحة: «تخيل إضاعة الوقت في اصطحابها في مواعيد، بينما يمكنك ببساطة استخدام [اسم الموقع المحذوف] للحصول على صورها العارية.»

أصبح توفر نماذج الذكاء الاصطناعي مفتوحة المصدر أمراً سهلاً لأي شخص للوصول إلى محركات الذكاء الاصطناعي القوية وتكييفها لأغراضه. وهذا يؤدي إلى إنشاء مواقع وتطبيقات يمكنها إنشاء صور عارية مزيفة من الصفر أو «تعرية» الصور الموجودة بطرق واقعية، غالباً مقابل رسوم.

سان فرانسيسكو ليست المكان الوحيد الذي يشهد هذا التحدي

في يناير، حظيت تطبيقات الديب فيك بأضواء الإعلام عندما انتشرت صور عارية مزيفة لتايلور سويفت عبر الإنترنت. تعرض العديد من الأشخاص الآخرين، الأقل شهرة بكثير، للمضايقة قبل سويفت وبعدها.

أقرت تشيو بأن «انتشار هذه الصور استغل عدداً مذهلاً من النساء والفتيات في جميع أنحاء العالم»، من المشاهير إلى طالبات المدارس المتوسطة.

من خلال تحقيقاتها الخاصة، وجد مكتب مدعي المدينة أن المواقع زُوّدت بأكثر من 200 مليون زيارة في الأشهر الستة الأولى من هذا العام. أعرب المكتب عن قلقه من أنه بمجرد نشر صورة على الإنترنت، يصبح من الصعب على الضحايا تحديد المواقع التي تم استخدامها «لتعري» صورهم.

وذلك لأن الصور لا تحتوي على أي علامات فريدة أو مميزة يمكن الرجوع إليها إلى المواقع. بالإضافة إلى ذلك، يصعب أيضاً على الضحايا التخلص من الصور من الإنترنت، مما يؤثر على تقديرهم لذاتهم وبصمتهم الرقمية.

في وقت سابق من هذا العام، تم طرد خمسة طلاب في الصف الثامن من مدرسة في بيفرلي هيلز بسبب إنشاء ومشاركة صور عارية مزيفة (ديب فيك) لـ 16 طالبة في الصف الثامن، حيث تم دمج وجوه الفتيات على أجسام مولّدة بالذكاء الاصطناعي.

تم رصد حالات مماثلة في مدارس أخرى في كاليفورنيا ونيوجيرسي وواشنطن، حيث استُخدمت الصور لإهانة وابتزاز وتهديد النساء والفتيات.

وقال مكتب المدعي العام إن الأثر الصافي على الضحايا كان مدمراً لسمعتهم، ويعاني من مشاكل الصحة العقلية، وفقدان تقدير الذات، وفي بعض الحالات، يؤدي إلى انتحار الأفراد.