الحكومة الهندية تطلب من X إصلاح Grok بسبب محتوى الذكاء الاصطناعي الفاحش

أمرت الحكومة الهندية منصة التدوين التي يملكها إيلون ماسك X بإجراء تغييرات على روبوت الدردشة بالذكاء الاصطناعي غروك بسبب المحتوى الفاحش الذي ينشئه الذكاء الاصطناعي. يريد البلد من المنصة إجراء تغييرات تقنية وإجرائية فورية على الروبوت الدردشة بعد أن لفت المستخدمون والمشرعون الانتباه إلى عدة حالات لمحتوى فاحش.

وفقاً للبلد، فإن حالات استخدام الروبوت الدردشة لإنشاء هذه الصور الفاحشة، بما في ذلك صور النساء المعدلة بالذكاء الاصطناعي التي تم إنشاؤها باستخدام الأداة. صدر الأمر يوم الجمعة من قبل وزارة تكنولوجيا المعلومات في الهند، مطالبة المنصة باتخاذ إجراءات تصحيحية بشأن غروك، بما في ذلك تقييد إنشاء محتوى يتضمن "العري، أو التحريض الجنسي، أو المواد الصريحة جنسياً، أو غير القانونية الأخرى". كما منحت الوزارة المنصة إنذاراً نهائياً لمدة 72 ساعة لتنفيذ التغييرات.

الحكومة الهندية تأمر X بإجراء تغييرات تقنية على غروك

كجزء من التزاماتها في الإنذار النهائي لمدة 72 ساعة، طلبت الوزارة أيضاً من X تقديم تقرير عن الإجراءات المتخذة يوضح الخطوات التي اتخذتها لمنع استضافة أو نشر المحتوى غير اللائق. تشمل هذه المحتويات "المحتوى الفاحش، أو الإباحي، أو البذيء، أو غير اللائق، أو الصريح جنسياً، أو المثلي جنسياً، أو المحظور بموجب القانون". حذر الأمر من أنه إذا فشلت المنصة في تنفيذ الخطوات الإلزامية، فقد تعرض حماية "المرفأ الآمن" الخاصة بها للخطر.

يأتي أمر الهند وسط مخاوف أثارها المستخدمون الذين شاركوا أمثلة على تحريض غروك لتعديل صور الأفراد، بشكل رئيسي النساء، لجعلها تبدو وكأنها ترتدي ملابس السباحة. تم تحفيز القضية بشكوى رسمية، قدمها عضو البرلمان الهندي بريانكا تشاتورفي. حذرت تشاتورفي جميع الشركات الكبرى التي تمتلك روبوتات دردشة بالذكاء الاصطناعي، مشيرة إلى أنه يجب وضع ضوابط للتحقق من ميزات مثل غروك حتى لا ينتهك الروبوت الدردشة الكرامة الإنسانية.

بشكل منفصل، قام المستخدمون أيضاً بتحديد عدة حوادث حيث تم استخدام روبوت الدردشة بالذكاء الاصطناعي لتوليد صور جنسية تتضمن قاصرين، وهي قضية أقرت بها X يوم الجمعة. زعمت المنصة أن ذلك كان بسبب بعض الثغرات في الضوابط قبل التحرك بسرعة لإزالة الصور المولدة. حثت المنصة أيضاً المستخدمين على الإبلاغ رسمياً إلى مكتب التحقيقات الفيدرالي (FBI) أو خط الشكاوى الإلكترونية لمركز NCMEC، مشيرة إلى أن X ملتزمة بمنع مثل هذه القضايا.

قد تواجه X قضايا قانونية لعدم الامتثال

وفقاً للمستخدمين، بقيت الصور غير اللائقة للنساء المولدة باستخدام الروبوت الدردشة على المنصة. يأتي الأمر الأخير بعد أن أصدرت وزارة تكنولوجيا المعلومات في الهند توجيهات لمنصات وسائل التواصل الاجتماعي، تذكرهم بأن الامتثال للقوانين المحلية التي تحكم المحتوى الفاحش والصريح جنسياً هو شرط مسبق للاحتفاظ بالمناعة القانونية من المسؤولية عن المواد التي ينشئها المستخدمون. حث البلد الشركات على تحسين الضوابط وحذر من أن الفشل قد يستدعي إجراءات قانونية.

"يتم التأكيد مرة أخرى على أن عدم الامتثال للمتطلبات المذكورة أعلاه سيتم النظر إليه بجدية وقد يؤدي إلى عواقب قانونية صارمة ضد منصتك، ومسؤوليها المسؤولين، والمستخدمين على المنصة الذين ينتهكون القانون، دون أي إشعار إضافي"، حذر الأمر. كما حذرت الحكومة الهندية X من أنه إذا فشلت في الامتثال لتوجيهها، فإن البلد لديه السلطة لبدء إجراء قانوني ضد المنصة بموجب قانون تكنولوجيا المعلومات الهندي والجنائي.

برزت الهند كواحدة من أكبر الأسواق الرقمية، حيث يُنظر إلى البلد كحالة اختبار حاسمة حول مدى استعداد الحكومات للضغط من أجل جعل المنصات مسؤولة عن المحتوى الذي ينشئه الذكاء الاصطناعي. إذا تم تشديد الإنفاذ في البلد، فقد يكون له تأثير تموجي على شركات التكنولوجيا العالمية التي تعمل عبر ولايات قضائية أخرى. يأتي الأمر أيضاً بينما تواصل X تحدي قواعد تنظيم المحتوى في الهند أمام المحكمة.

تجادل المنصة بأن سلطات الإزالة من قبل الحكومة الفيدرالية تنطوي على خطر تجاوز الصلاحيات، حتى مع امتثال المنصة لمعظم توجيهات الحظر التي قدمها البلد. في الوقت نفسه، غروك كان مفيداً للمستخدمين على منصة X، حيث يستخدم معظم المستخدمين المنصة للتحقق من الحقائق في الوقت الفعلي والتعليق على الأحداث العالمية، مما يجعل مخرجاتها أكثر وضوحاً وأكثر حساسية سياسياً من أدوات الذكاء الاصطناعية المستقلة.