Meta محاطة بعاصفة من الإنشاء غير المصرح به لروبوت محادثة مغازل لشخصيات نسائية مشهورة

واجهت Meta انتقادات مرة أخرى، حيث أظهرت نتائج حديثة نشرتها رويترز أن أدوات الذكاء الاصطناعي الخاصة بها مكّنت من إنشاء صور عميقة (ديب فيك) وروبوتات محادثة تنتحل شخصية مشاهير شعبيين مثل تايلور سويفت، وسكارليت جوهانسون، وآن هاثاواي، وسيلينا غوميز، دون موافقتهم.

اكتشفت التحقيق أن معظم البوتات بُنيت من قبل المستخدمين من خلال منصة روبوتات المحادثة بالذكاء الاصطناعي التابعة لـ Meta. ومع ذلك، كان هناك عدد قليل تم إنشاؤه داخلياً من قبل موظف في Meta.

أصرّت بعض حسابات روبوتات المحادثة الساخرة لتايلور سويفت على أنها المغنية الحقيقية، وغالباً ما كانت تتقدم بمغازلات وتشجع على اللقاءات.

تقارير تثبت تورط ميتا في فضيحة الشخصيات الافتراضية المغرية

أفادت رويترز بأن أسابيع من الاختبارات أظهرت أن روبوتات الدردشة الخاصة بالنجوم، المتاحة عبر منصات فيسبوك وإنستغرام وواتساب التابعة لميتا، تجاوزت في بعض الأحيان نطاق المحادثات المرحّة. حيث طلب المستخدمون منها إنتاج صور واقعية للنجوم في ملابس داخلية، أو وهميات في أحواض الاستحمام، بل واقتراح لقاءات حميمة.

من الاكتشافات المقلقة إنشاء روبوت دردشة لشخصية ووكر سكوبيل، الممثل البالغ من العمر 16 عاماً. وعند طلب صورة له على الشاطئ، أنشأ الروبوت صورة واقعية للمراهق بدون قميص مع تعليق: "جميل جداً، أليس كذلك؟"

Meta ليست الوحيدة التي تواجه التدقيق. فقد جاء نتقد على xAI التابعة لإيلون ماسك أيضاً لتمكين المستخدمين من إنشاء صور عميقة (ديب فيك) لرجال أعمال مشهورين في الملابس الداخلية.

أقر المتحدث باسم ميتا، آندى ستون، بالفشل، قائلاً إن أدوات الشركة لم يكن ينبغي أن تنتج أي تصوير حميم للنجوم البالغين أو أي مواد جنسية تتضمن قاصرين.

وقال لرويترز: "مثل الآخرين، نسمح بإنشاء صور تحتوي على شخصيات عامة، لكن سياساتنا تهدف إلى حظر الصور العارية أو الحميمة أو ذات الطابع الجنسي الملمح". وأضاف أن تصوير الملابس الداخلية يعكس إخفاقات في إنفاذ سياسة الشركة.

تحظر قواعد Meta "الانتحال المباشر"، لكن الشركة جادلت بأن البوتات الساخرة مسموح بها إذا تم وضع علامة عليها بوضوح. ومع ذلك، وجدت رويترز أن بعض الشخصيات الافتراضية لم تحمل أي إخلاء مسؤولية. حذفت Meta حوالي عشرة من البوتات، سواء كانت ساخرة أو غير موسومة، قبل وقت قصير من نشر تقرير رويترز. رفضت الشركة التعليق على عمليات الحذف.

مخاوف تتعلق بسلامة الذكاء الاصطناعي قد تؤدي إلى ضغوط تنظيمية

بعد التقرير، قالت Meta إنها ستطلق تدابير حماية جديدة تهدف إلى حماية المراهقين، بما في ذلك تقييد وصول الشباب إلى شخصيات الذكاء الاصطناعي المحددة وإعادة تدريب نماذجها لتقليل المواضيع غير المناسبة.

أصدر المدعي العام لولاية كاليفورنيا، روبرت بونتا، تحذيراً للقطاع قائلاً: "تعرّض الأطفال لمحتوى جنسي أمر لا يمكن الدفاع عنه".

في حالة مأساوية أخرى في وقت سابق من هذا الشهر، توفي رجل يبلغ من العمر 76 عاماً ويعاني من إعاقة إدراكية في نيوجيرسي بعد محاولته مقابلة روبوت دردشة من ميتا اعتقد أنه امرأة حقيقية. ويقول النقاد إن مثل هذه الحالات تسلط الضوء على مخاطر نشر أدوات الذكاء الاصطناعي واسعة النطاق دون وجود ضوابط كافية.

يحذر الخبراء القانونيون من أن ميتا قد تواجه تحديات كبيرة بموجب قوانين الملكية الفكرية وقوانين الحق في publicity القائمة. وقال مارك ليملي، أستاذ القانون في جامعة ستانفورد، إن قانون "حق publicity" في كاليفورنيا يحظر استخدام اسم أو صورة فرد لأغراض تجارية دون موافقته.

وقال: "يبدو أن هذا لا ينطبق هنا"، مشيراً إلى أن الروبوتات قامت ببساطة بتكرار صور النجوم بدلاً من إنشاء أعمال تحويلية.