أصدر المدعي العام لولاية كاليفورنيا أمراً بالكف عن استخدام شركة xAI للصور المزيفة بتقنية التزييف العميق غير اللائقة

أرسل المدعي العام لولاية كاليفورنيا، روب بونتا، خطاباً يطالب فيه شركة xAI التابعة لإيلون ماسك بالتوقف عن إنتاج ونشر صور التزييف العميق المسيئة التي ينتجها برنامج الدردشة الآلي Grok. 

المدعي العام لولاية كاليفورنيا أصدر خطابًا بوقف النشاط يوم الجمعة ردًا على مزاعم استخدام تطبيق Grok لإنشاء محتوى غير قانوني يتضمن أطفالًا وصورًا لبالغين دون موافقتهم، الأمر الذي دفع ولاية كاليفورنيا إلى فتح تحقيق. وأكد بونتا أن إنشاء وتوزيع ونشر وعرض المواد الإباحية للأطفال أمر غير قانوني.

المدعي العام في كاليفورنيا يستهدف شركة xAI بسبب مزاعم إساءة استخدام Grok

مكتب المدعي العام في كاليفورنيا أعلن أنه يحقق في شركة xAI بسبب مزاعم استخدام برنامج الدردشة الآلي Grok التابع للشركة الناشئة لإنتاج صور غير لائقة لنساء وأطفال دون موافقة أصحابها. وردًا على ذلك، أرسلت الحكومة للشركة خطابًا يطالبها فيه بالكف عن هذه الممارسات.

أرسلتُ اليوم خطاب إنذار إلى شركة xAI، أطالبها فيه بالتوقف الفوري عن إنتاج وتوزيع الصور المُفبركة بتقنية التزييف العميق، والصور الحميمة غير الرضائية، ومواد استغلال الأطفال غير القانونية. إن إنتاج هذه المواد يُعدّ مخالفًا للقانون. أتوقع تمامًا من xAI الامتثال الفوري. لا تتسامح ولاية كاليفورنيا مطلقًا مع صور استغلال الأطفال غير القانونية

–روب بونتا، المدعي العام لولاية كاليفورنيا.

أكد مكتب المدعي العام كذلك أن شركة xAI تبدو وكأنها "تسهل الإنتاج واسع النطاق" لصور غير لائقة وبدون موافقة، والتي "تُستخدم بعد ذلك لمضايقة النساء والفتيات عبر الإنترنت". ووفقًا لمكتب المدعي العام، وجدت إحدى الدراسات أن أكثر من نصف الصور العشرين ألفًا التي أنتجتها xAI بين عيد الميلاد ورأس السنة الجديدة أظهرت أشخاصًا يرتدون ملابس قليلة جدًا، بعضهم يبدو كأطفال.

زعم روب بونتا في الإعلان أن ممارسات الشركة انتهكت القوانين المدنية في كاليفورنيا، بما في ذلك المادة 1708.86 من قانون كاليفورنيا المدني، والمادة 311 وما يليها من قانون العقوبات في كاليفورنيا، والمادة 647 (ي) (4)، والمادة 17200 من قانون الأعمال والمهن في كاليفورنيا. 

تتوقع وزارة العدل في كاليفورنيا أن تؤكد شركة xAI جهودها لمعالجة هذه القضايا وأن تتخذ إجراءات فورية لحلها خلال الأيام الخمسة المقبلة.

مع ذلك، سبق لحساب السلامة الخاص بمنصة X أن أدان هذا النوع من سلوك المستخدمين. وقد أوضح في 4 يناير أنه يتخذ إجراءات ضد المحتوى غير القانوني على المنصة، مثل المواد الإباحية المتعلقة بالأطفال، وذلك بحذفه، وتعليق الحسابات لأجلdefiمسمى، والتعاون مع السلطات القانونية والحكومات المحلية حسب الحاجة.

والجدير بالذكر أنه في 4 يناير، حذر إيلون ماسك من أن أي شخص يستخدم أو يحث Grok على إنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو قام بتحميله.

يكثف المدعون العامون الضغط على شركات الذكاء الاصطناعي بشأن سلامة الأطفال

أدى تطوير أدوات الذكاء الاصطناعي التوليدية المجانية إلى زيادة مقلقة في المحتوى الإباحي غير الرضائي. وقد أثرت هذه المشكلة على العديد من المنصات، وليس فقط على منصة X.

المدعي العام بونتا والمدعي العام جينينغز من ولاية ديلاوير اجتمع مع شركة OpenAI في سبتمبر من العام الماضي للتعبير عن مخاوفهما الجدية بشأن العدد المتزايد من التقارير حول كيفية تفاعل منتجات OpenAI مع الشباب.

في أغسطس من العام نفسه، وجّه المدعي العام بونتا، برفقة 44 مدعيًا عامًا آخر، رسالةً إلى 12 شركة رائدة في مجال الذكاء الاصطناعي، وذلك عقب ورود تقارير عن تفاعلات غير لائقة بين روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والأطفال. وشملت هذه الشركات: أنثروبيك، وآبل، وشاي إيه آي، وجوجل، ولوكا، وميتا، ومايكروسوفت، ونومي إيه آي، وأوبن إيه آي، وبيربلكسيتي إيه آي، وريبليكا، وإكس إيه آي.

أبلغ المدعي العام بونتا والمدعون العامون الـ 44 الشركات في الرسالة بأن الولايات في جميع أنحاء البلاد تراقب عن كثب كيفية تطوير الشركات لسياساتها المتعلقة بسلامة الذكاء الاصطناعي. كما أكدوا على أن هذه الشركات تتحمل مسؤولية قانونية تجاه الأطفال كمستهلكين، لأنها تربح من استخدام الأطفال لمنتجاتها. 

في عام 2023، انضم المدعي العام بونتا إلى تحالف من الحزبين يضم 54 ولاية ومنطقة في إرسال رسالة إلى قادة الكونجرس يدعون فيها إلى إنشاء لجنة خبراء للتحقيق في الاستخدام المحتمل للذكاء الاصطناعي لاستغلال الأطفال من خلال المواد الإباحية المتعلقة بالأطفال. 

التحالف طالب لجنة الخبراء باقتراح قوانين لحماية الأطفال من هذا النوع من سوء المعاملة. ووفقًا لوزارة العدل الأمريكية، فإن "إنتاج المواد الإباحية المتعلقة بالأطفال يُخلّف سجلًا دائمًا لوقوع الطفل ضحية".