مدعي كاليفورنيا العام يصدر أمراً بوقف النشاط لشركة xAI بسبب صور عميقة غير لائقة

أرسل مدعي كاليفورنيا العام روبرت بونتا رسالة وقف ونهي إلى شركة xAI التابعة لإيلون ماسك، مطالبة الشركة بالتوقف الفوري عن إنتاج ونشر صور عميقة مسيئة تم إنشاؤها بواسطة روبوت الدردشة Grok الخاص بها. 

مدعي كاليفورنيا العام الصادر رسالة الوقف والنهي يوم الجمعة رداً على ادعاءات بأن Grok كان يُستخدم لإنشاء محتوى غير قانوني يتضمن أطفالاً وصوراً بالغة دون موافقة، مما دفع إلى تحقيق من قبل ولاية كاليفورنيا. جادل بونتا بأن إنشاء وتوزيع ونشر وعرض مواد إساءة معاملة الأطفال غير قانوني.

مدعي كاليفورنيا العام يستهدف xAI بسبب سوء استخدام Grok المزعوم

في وقت سابق من هذا الأسبوع، مكتب مدعي كاليفورنيا العام أعلن أنه كان يبحث في xAI بسبب ادعاءات بأن روبوت الدردشة الخاص بالشركة الناشئة، Grok، كان يُستخدم لإنتاج صور غير لائقة وغير متفق عليها للنساء والأطفال. ورداً على ذلك، أرسلت الحكومة للشركة رسالة وقف ونهي.

"اليوم، أرسلت رسالة وقف ونهي إلى xAI، مطالبة الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور العميقة غير المتفق عليها، والصور الحميمة غير المتفق عليها، ومواد إساءة معاملة الأطفال غير القانونية. إنشاء هذا المواد غير قانوني. أتوقع تماماً أن تمتثل xAI على الفور. لدى كاليفورنيا صفر تسامح مع صور إساءة معاملة الأطفال غير القانونية."

–روبرت بونتا, مدعي كاليفورنيا العام.

أكد مكتب المدعي العام أيضاً أن xAI يبدو أنه "يسهل الإنتاج واسع النطاق" للصور غير اللائقة وغير المتفق عليها، والتي تُستخدم بعد ذلك "لمضايقة النساء والفتيات عبر الإنترنت". ووفقاً لمكتب المدعي العام، وجدت إحدى الدراسات أن أكثر من نصف الصور الـ 20,000 التي أنتجتها xAI بين عيد الميلاد ورأس السنة أظهرت أشخاصاً يرتدون ملابس قليلة جداً، وبعضهم بدا وكأنهم أطفال.

ادعى روبرت بونتا في الإعلان بأن الممارسات المؤسسية انتهكت قوانين كاليفورنيا المدنية، بما في ذلك القسم 1708.86 من القانون المدني لكاليفورنيا، والأقسام 311 وما يليها و647(j)(4) من قانون العقوبات لكاليفورنيا، والقسم 17200 من قانون الأعمال والمهن لكاليفورنيا. 

تتوقع وزارة العدل في كاليفورنيا أن تؤكد xAI جهودها لمعالجة هذه القضايا واتخاذ إجراءات فورية لحلها خلال الأيام الخمسة القادمة.

ومع ذلك، كان حساب الأمان التابع لـ X قد أدان سابقًا هذا النوع من سلوك المستخدمين. لقد وضحت في 4 يناير، اتخذ إجراءات ضد المحتوى غير القانوني على X، مثل المواد الإباحية للأطفال، من خلال حذفه، وتعليق الحسابات بشكل دائم، والتعاون مع السلطات القانونية والحكومات المحلية عند الحاجة.

ومن الجدير بالذكر أنه في 4 يناير، حذر إيلون ماسك من أن أي شخص يستخدم أو يطلب Grok إنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو قام برفعه.

مدعوو الولاية يintensify الضغط على شركات الذكاء الاصطناعي بشأن سلامة الأطفال

أدى تطور أدوات الذكاء الاصطناعي التوليدي المجانية إلى زيادة غير مريحة في المحتوى البالغ غير الطوعي. هذه القضية تزعج عدة منصات، وليس فقط X.

على سبيل المثال، المدعي العام بونتا والمدعي العام جينينغز من ديلاوير حققت مع OpenAI في سبتمبر من العام الماضي للتعبير عن مخاوفهم الجادة بشأن العدد المتزايد من التقارير حول كيفية تفاعل منتجات OpenAI مع الشباب.

في أغسطس من العام نفسه، أرسل المدعي العام بونتا، إلى جانب 44 مدعيًا عامًا آخرين، رسالة إلى 12 شركة رائدة في مجال الذكاء الاصطناعي بعد تقارير عن تفاعلات غير لائقة بين روبوتات الدردشة بالذكاء الاصطناعي والأطفال. تم إرسال الرسائل إلى Anthropic وApple وChai AI وGoogle وLuka Inc.، ميتاوMicrosoft وNomi AI وOpenAI وPerplexity AI وReplika وxAI.

أبلغ المدعي العام بونتا والمدعون العامون الـ 44 الشركات في الرسالة بأن الولايات عبر البلاد كانت تراقب عن كثب كيفية تطوير الشركات لسياسات سلامة الذكاء الاصطناعي الخاصة بها. وشددوا أيضًا على أن هذه الشركات لديها واجب قانوني تجاه الأطفال كعملاء نظرًا لربحها من استخدام الأطفال لمنتجاتها. 

في عام 2023، انضم المدعي العام بونتا إلى تحالف غير حزبي مكون من 54 ولاية وإقليم في إرسال رسالة إلى قادة الكونغرس تدعو فيها إلى إنشاء لجنة خبراء للتحقيق في الاستخدام المحتمل للذكاء الاصطناعي لاستغلال الأطفال من خلال المواد الإباحية للأطفال (CSAM). 

اقترح التحالف طلبت أن تقترح اللجنة الخبراء قوانين لحماية الأطفال من مثل هذا الإساءة. "يخلق إنتاج المواد الإباحية للأطفال سجلاً دائمًا لإيذاء الطفل"، وفقًا لوزارة العدل الأمريكية.