الحكومة الهندية تطلب من شركة X إصلاح تطبيق Grok بسبب محتواه الفاحش الذي ينشره الذكاء الاصطناعي

أمرت الحكومة الهندية منصة التدوين "إكس" المملوكة لإيلون ماسك بإجراء تعديلات على روبوت الدردشة "غروك" المدعوم بالذكاء الاصطناعي، وذلك بسبب محتواه الفاحش. وتطالب الهند المنصة بإجراء تغييرات تقنية وإجرائية فورية على الروبوت بعد أن أبلغ المستخدمون والمشرعون عن عدة حالات لمحتوى فاحش.

بحسب السلطات، تم رصد حالات برنامج الدردشة الآلي لإنشاء صور فاضحة، بما في ذلك صور معدلة بالذكاء الاصطناعي لنساء باستخدام هذه الأداة. وقد أصدرت وزارة تكنولوجيا المعلومات الهندية، يوم الجمعة، أمرًا يطالب منصة Grok باتخاذ إجراءات تصحيحية، تشمل تقييد إنشاء المحتوى الذي يتضمن "عُريًا، أو إيحاءات جنسية، أو مواد جنسية صريحة، أو أي مواد غير قانونية أخرى". كما منحت الوزارة المنصة مهلة 72 ساعة لتنفيذ هذه التغييرات.

الحكومة الهندية تأمر شركة X بإجراء تعديلات تقنية على تطبيق Grok

كجزء من التزاماتها خلال مهلة الـ 72 ساعة، طلبت الوزارة من شركة X تقديم تقرير مفصل عن الإجراءات المتخذة لمنع استضافة أو نشر المحتوى غير اللائق. ويشمل هذا المحتوى "المحتوى الفاحش، والإباحي، والمبتذل، وغير اللائق، والجنسي الصريح، والبيدوفيلي، أو أي محتوى آخر محظور بموجب القانون". وحذّر الأمر من أنه في حال عدم تنفيذ المنصة للإجراءات الإلزامية، فقد تُعرّض حماية "الملاذ الآمن" التي تتمتع بها للخطر.

يأتي قرار الهند وسط مخاوف أثارها مستخدمون شاركوا أمثلةً على قيام تطبيق Grok بتعديل صور أفراد، وخاصةً النساء، ليظهرن وكأنهن يرتدين ملابس سباحة. وقد أثارت هذه القضية شكوى رسمية قدمتها البرلمانية الهندية بريانكا تشاتورفيدي. وحذرت جميع الشركات الكبرى التي تستخدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مضيفةً أنه يجب وضع ضوابط للتحقق من خصائص مثل Grok حتى لا ينتهك هذا التطبيق كرامة الإنسان.

في سياق منفصل، أبلغ المستخدمون عن عدةdentاستُخدم فيها برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي لإنشاء صور جنسية تتضمن قاصرين، وهي مشكلة أقرت بها منصة X يوم الجمعة. وادعت المنصة أن ذلك ناجم عن بعض الثغرات في إجراءات الحماية، قبل أن تتحرك سريعًا لإزالة الصور المُنشأة. كما حثت المنصة المستخدمين على الإبلاغ رسميًا إلى مكتب التحقيقات الفيدرالي (FBI) أو خط الإبلاغ الإلكتروني التابع للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، مشيرةً إلى أن X ملتزمة بمنع مثل هذه المشكلات.

قد يواجه X مشاكل قانونية بسبب عدم الامتثال

بحسب المستخدمين، بقيت صورٌ غير لائقة لنساء، تم إنشاؤها باستخدام برنامج الدردشة الآلي، على المنصة. ويأتي هذا القرار الأخير بعد أن أصدرت وزارة تكنولوجيا المعلومات الهندية توجيهًا لمنصات التواصل الاجتماعي، تُذكّرها فيه بأن الامتثال للقوانين المحلية التي تُنظّم المحتوى الفاحش والجنسي الصريح شرطٌ أساسيٌّ للحفاظ على الحصانة القانونية من المسؤولية عن المواد التي يُنشئها المستخدمون. وحثّت الهند الشركات على تحسين الضوابط، وحذّرت من أن عدم الالتزام بذلك قد يُعرّضها للمساءلة القانونية.

أكد الأمر مجدداً أن عدم الامتثال للمتطلبات المذكورة أعلاه سيُنظر إليه بجدية، وقد يُؤدي إلى عواقب قانونية صارمة ضد منصتكم، ومسؤوليها، ومستخدمي المنصة الذين يخالفون القانون، دون أي إنذار إضافي. كما حذرت الحكومة الهندية شركة X من أنه في حال عدم امتثالها لتوجيهاتها، يحق للبلاد اتخاذ إجراءات قانونية ضد المنصة بموجب قانون تكنولوجيا المعلومات والقوانين الجنائية الهندية.

برزت الهند كإحدى أكبر الأسواق الرقمية، وتُعتبر حالة اختبار حاسمة لمدى استعداد الحكومات لفرض محاسبة المنصات على المحتوى المُنشأ بواسطة الذكاء الاصطناعي. وإذا ما تم تشديد تطبيق القوانين في الهند، فقد يكون لذلك أثرٌ ripple على شركات التكنولوجيا العالمية العاملة في مناطق أخرى. ويأتي هذا القرار في الوقت الذي تواصل فيه شركة X الطعن في قوانين تنظيم المحتوى في الهند أمام المحاكم.

تُجادل المنصة بأن صلاحيات الحكومة الفيدرالية في إزالة المحتوى قد تُعتبر تجاوزًا للحدود، على الرغم من امتثالها لمعظم توجيهات الحجب الصادرة عن الدولة. في الوقت نفسه، تطبيق Grok مفيدًا لمستخدمي منصة X، حيث يستخدمه معظمهم للتحقق من الحقائق والتعليق على الأحداث العالمية في الوقت الفعلي، مما جعل محتواه أكثر وضوحًا وأكثر حساسية سياسيًا من أدوات الذكاء الاصطناعي المستقلة.