تستخدم الشركات الناشئة في مجال الذكاء الاصطناعي صور أطفال برازيليين لتدريب نماذج دون موافقتهم

كشفت إحدى منظمات حقوق الإنسان أن برامج توليد الصور استخدمت مليارات الصور لأطفال برازيليين لتدريب نماذج الذكاء الاصطناعي الخاصة بها دون موافقتهم. وأجرت منظمة هيومن رايتس ووتش بحثًا يُظهر أن برامج توليد الصور الشائعة، مثل برنامج Stable Diffusion، استخدمت صورًا لأطفال "تغطي طفولتهم بأكملها" لتدريب نماذجها.

اقرأ أيضاً: دعوات لشركات التكنولوجيا لمكافحة تزايد المواد الإباحية للأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي

كشفت دراسة هيومن رايتس ووتش أن هذه الصور التُقطت في حوالي عشر ولايات برازيلية. وأفادت الدراسة بأن هذه الصور تُشكل "خطراً جسيماً على خصوصية الأطفال" لأن هذا الفعل يزيد أيضاً من إنتاج صور غير توافقية تحمل صورهم.

مليارات الصور لأطفال برازيليين تُستخدم لتدريب نماذج الذكاء الاصطناعي

كشفت الباحثة في منظمة هيومن رايتس ووتش، هاي جونغ هان، عن المشكلة بعد تحليل جزء صغير (أقل من 0.0001%) من مجموعة بيانات LAION-5B، وهي مجموعة بيانات مبنية على لقطات من برنامج Common Crawl للويب العام. وأوضحت أن مجموعة البيانات لم تكن تحتوي على الصور الأصلية، بل على "أزواج نصية من الصور" مأخوذة من حوالي 6 مليارات صورة وتعليق نُشرت منذ عام 2008.

عُثر على صور لأطفال من عشر ولايات برازيلية، معظمها صور عائلية نُشرت على مدونات تخص الأبوة والأمومة ومدونات شخصية. ووفقًا للتقرير، فإن هذه الصور لا يعثر عليها مستخدمو الإنترنت بسهولة.

اقرأ أيضاً: المملكة المتحدة ستعلن أن إنشاء مقاطع فيديو جنسية صريحة بتقنية التزييف العميق يُعد جريمة جنائية

قامت منظمة هيومن رايتس ووتش بإزالة الروابط المؤدية إلى الصور بالتعاون مع منظمة لايونالألمانية غير الربحية التي أنشأت مجموعة البيانات. ولا تزال المخاوف قائمة من أن مجموعة البيانات قد تتضمن صورًا لأطفال من مختلف أنحاء العالم، إذ أن إزالة الروابط وحدها لا تحل المشكلة تمامًا.

"هذه قضية أكبر وأكثر إثارة للقلق، وبصفتنا منظمة تطوعية، سنبذل قصارى جهدنا للمساعدة"، هذا ما صرح به المتحدث باسم منظمة LAION، نيت تايلر، لموقع Ars.

يمكن tracdentالأطفال بسهولة

كشف تقرير هيومن رايتس ووتش أيضاً عن إمكانية tracdentالعديد من الأطفال البرازيليين، حيث استُخدمت أسماؤهم ومواقعهم في التعليقات التي بُنيت عليها قاعدة البيانات. كما أثار التقرير مخاوف من تعرض هؤلاء الأطفال لخطر التنمر الإلكتروني، واحتمالية استخدام صورهم في محتوى فاضح.

وجاء في جزء من التقرير: "تغطي الصور التي تمت مراجعتها كامل فترة الطفولة".

"إنها تلتقط لحظات حميمة لولادة الأطفال بين أيدي الأطباء المرتدية القفازات، والأطفال الصغار وهم ينفخون الشموع على cake عيد ميلادهم أو يرقصون بملابسهم الداخلية في المنزل..."

هيومن رايتس ووتش.

لكن هان كشف أن "جميع النسخ المتاحة للجمهور من LAION-5B قد تم إزالتها"، وبالتالي انخفض خطر استخدام صور الأطفال البرازيليين الآن.

بحسب منظمة هيومن رايتس ووتش، لن تُتاح مجموعة البيانات مجدداً حتى تتأكد منظمة LAION من إزالة جميع المحتويات المُعلّمة. وقد اتُخذ هذا القرار بعد أن كشف تقريرٌ عن وجود "روابط في مجموعة البيانات تُشير إلى محتوى غير قانوني على الإنترنت العام"، بما في ذلك أكثر من 3000 حالة يُشتبه في أنها استغلال جنسي للأطفال .

كما أبلغت 85 فتاة على الأقل في البرازيل عن تعرضهن للمضايقة من قبل زملائهن في الفصل باستخدام الذكاء الاصطناعي لإنشاء محتوى مزيف جنسي صريح "استنادًا إلى صور مأخوذة من محتوى وسائل التواصل الاجتماعي الخاص بهن"

حماية خصوصية الأطفال

وفقًا لموقع Ars، تم طرح LAION-5B في عام 2022، وبحسب ما ورد لتكرار مجموعة بيانات OpenAI، وتم الترويج لها على أنها أكبر "مجموعة بيانات نصية صورية متاحة مجانًا".

عندما اتصلت منظمة هيومن رايتس ووتش بشركة LAION بشأن الصور، ردت المنظمة قائلة إن نماذج الذكاء الاصطناعي المدربة على LAION-5B "لا يمكنها إنتاج بيانات الأطفال حرفيًا"، على الرغم من اعترافها بمخاطر الخصوصية والأمن.

ثم بدأت المنظمة بإزالة بعض الصور، لكنها رأت أيضاً أن الآباء والأوصياء مسؤولون عن إزالة الصور الشخصية للأطفال من الإنترنت. وقد خالف هان هذا الرأي، قائلاً:

"لا ينبغي تحميل الأطفال وآبائهم مسؤولية حماية الأطفال من تكنولوجيا يستحيل الحماية منها أساساً. ليس هذا خطأهم."

هان.

دعت منظمة هيومن رايتس ووتش المشرعين البرازيليين إلى تدخل عاجل لحماية حقوق الأطفال من التقنيات الناشئة. ويجب سنّ قوانين جديدة تحظر استخدام بيانات الأطفال في نماذج الذكاء الاصطناعي، وفقًا لتوصيات المنظمة.

تقارير Cryptopolitan بواسطة Enacy Mapakame