شركات الذكاء الاصطناعي تستخدم صور أطفال برازيليين لتدريب النماذج دون موافقتهم

كشفت مجموعة مناصرة أن مولدات الصور استخدمت مليارات الصور لأطفال برازيليين لتدريب نماذج الذكاء الاصطناعي الخاصة بهم دون موافقتهم. أجرت منظمة العفو الدولية (HRW) بحثاً يظهر أن مولدات الصور الشائعة مثل Stable Diffusion استخدمت صوراً لأطفال "تمتد على كامل طفولتهم" لتدريب نماذجها.

اقرأ أيضًا: شركات التكنولوجيا تدعو لمكافحة الارتفاع في المواد الإباحية للأطفال المولدة بالذكاء الاصطناعي

يكشف دراسة HRW أن هذه الصور مأخوذة من حوالي 10 ولايات برازيلية. وأبلغت أن هذه الصور تشكل خطراً كبيراً على "خصوصية الأطفال" لأن الفعل يزيد أيضاً من إنتاج صور غير متطابقة تحمل ملامحهم.

استخدام مليارات صور الأطفال البرازيليين لتدريب نماذج الذكاء الاصطناعي

كشفت الباحثة في منظمة العفو الدولية (HRW) هيج جونغ هان عن المشكلة بعد تحليل جزء صغير (أقل من 0.0001%) من مجموعة بيانات LAION-5B، وهي مجموعة بيانات مبنية من لقطات Common Crawl للويب العام. وقد كشفت أن المجموعة لم تحتوي على الصور الفعلية، بل احتوت على "أزواج نصية للصور" مأخوذة من ما يقرب من 6 مليار صورة وعنوان تم نشرهما منذ عام 2008.

وُجدت صور أطفال من جميع أنحاء 10 ولايات برازيلية، ومعظمها عبارة عن صور عائلية تم تحميلها على مدونات الأبوة والأمومة والمدونات الشخصية. ووفقاً للتقرير، هذه صور لا يتعثر فيها مستخدمو الإنترنت بسهولة.

اقرأ أيضًا: المملكة المتحدة تعلن عن إنشاء صور عميقة إباحية كجريمة

أزالت HRW الروابط إلى الصور بالتعاون مع LAION ، المنظمة غير الربحية الألمانية التي أنشأت مجموعة البيانات. لا تزال هناك مخاوف من أن مجموعة البيانات قد تشير إلى صور الأطفال من جميع أنحاء العالم، حيث أن إزالة الروابط وحدها لا تحل المشكلة تماماً.

"هذه قضية أكبر ومقلقة جداً، وكمجموعة تطوعية، سنفعل جزءنا للمساعدة"، قال المتحدث باسم LAION نيت تايلر لـ Ars.

هويات الأطفال قابلة للتتبع بسهولة

وكشف تقرير HRW أيضاً أن هويات العديد من الأطفال البرازيليين يمكن تتبعها حيث تم استخدام أسمائهم ومواقعهم في العناوين التي بنيت عليها مجموعة البيانات. كما أثارت مخاوف من أن الأطفال قد يكونون عرضة لاستهدافهم من قبل المتنمرين بينما قد تُستخدم صورهم لمحتوى صريح.

"الصور المراجعة تمتد على كامل الطفولة"، يقرأ جزء من التقرير.

"إنها توثق لحظات حميمة لأطفال يولدون في أيدي الأطباء المتغطاة بالقفازات، أو أطفال صغار ينفخون الشموع على كعكة عيد ميلادهم أو يرقصون في ملابسهم الداخلية في المنزل..."

HRW.

ولكن كشفت هان أن "جميع الإصدارات المتاحة للعامة من LAION-5B تم إيقافها"، وبالتالي فإن خطر استخدام صور الأطفال البرازيليين الآن أقل.

ووفقاً لـ HRW، لن تكون مجموعة البيانات متاحة مرة أخرى حتى تكون LAION متأكدة من إزالة جميع المحتويات المبلغ عنها. تم اتخاذ القرار بعد أن وجدت تقرير من جامعة ستانفورد أيضاً "روابط في مجموعة البيانات تشير إلى محتوى غير قانوني على الويب العام"، بما في ذلك أكثر من 3,000 حالة مشتبه بها من محتوى الإساءة الجنسية للأطفال .

وقد أفادت 85 فتاة على الأقل في البرازيل بأن زملائهن في المدرسة يضايقونهن باستخدام الذكاء الاصطناعي لتوليد محتوى إباحي عميق "بناءً على صور مأخوذة من محتوياتهن على وسائل التواصل الاجتماعي".

حماية خصوصية الأطفال

ووفقاً لـ Ars ، تم تقديم LAION-5B في عام 2022، ووفقاً للتقارير لمحاكاة مجموعة بيانات OpenAI، وتم الترويج لها كأكبر "مجموعة بيانات نصية للصور متاحة بحرية".

عندما اتصلت HRW بـ LAION بشأن الصور، استجابت المنظمة بالقول إن النماذج المدربة على LAION-5B "لا يمكنها إنتاج بيانات الأطفال حرفياً"، على الرغم من أنها أقرت بمخاطر الخصوصية والأمن.

بدأت المنظمة بعد ذلك في إزالة بعض الصور لكنها رأت أيضاً أن الآباء والأوصياء مسؤولون عن إزالة الصور الشخصية للأطفال من الإنترنت. اختلفت هان مع حجتهم، قائلة:

"لا ينبغي للأطفال وآبائهم أن يتحملوا مسؤولية حماية الأطفال ضد تقنية من المستحيل أساساً الحماية منها. إنها ليست ذنبهم."

Han.

دعت HRW إلى تدخل عاجل من المشرعين البرازيليين لحماية حقوق الأطفال من التقنيات الناشئة. يجب وضع قوانين جديدة تحظر استخراج بيانات الأطفال إلى نماذج الذكاء الاصطناعي، وفقاً لتوصيات HRW.

تقرير من Cryptopolitan بقلم Enacy Mapakame