تتطلع الحكومة الكورية إلى اتخاذ إجراءات تنظيمية ضد برنامج الدردشة الآلي "غروك" التابع لشركة "إكس إيه آي" المملوكة لإيلون ماسك، والذي يعتمد على الذكاء الاصطناعي التوليدي. ويأتي هذا في أعقاب انتقادات عديدة وُجهت إلى البرنامج وتورطه في توليد ونشر صور مزيفة ذات محتوى جنسي استغلالي.
وقد تم الإبلاغ عن هذه المعلومات من قبل وسيلة إعلام محلية، وهي صحيفة " tron تايمز"، التي ذكرت أن لجنة حماية المعلومات الشخصية (PIPC) قد بدأت مراجعة أولية لتقصي الحقائق بشأن شركة "جروك" بعد أن تم الإبلاغ عن هذه الادعاءات في المقاطعة من قبل العديد من الأفراد.
تتمثل العملية التمهيدية في التأكد مما إذا كان الانتهاك قد وقع بالفعل وما إذا كانت المسألة تقع ضمن اختصاصها قبل بدء تحقيق رسمي.
تعتزم الحكومة الكورية إجراء مراجعة لبرنامج غروك
وبحسب التقارير ، فإن المراجعة تأتي في أعقاب عدة تقارير ظهرت محلياً وخارجياً، تتهم Grok باستخدامها لإنشاء صور مزيفة صريحة وغير توافقية، ومعظمها يتعلق بأفراد حقيقيين وقاصرين.
وبناءً على ذلك، سيحدد مكتب مراقبة مكافحة الفساد (PICP) مساره التالي بعد مراجعة التوضيح المقدم من شركة غروك والوثائق الداعمة الأخرى. ومن المتوقع أيضاً أن يراجع المكتب التوجهات التنظيمية العالمية، والتي ستؤثر على عملية اتخاذ القرار.
بموجب قانون حماية المعلومات الشخصية، فإن تغيير أو إنشاء صور جنسية لأفرادdentالتعرف عليهم دون موافقة قد يشكل معالجة غير قانونية للبيانات الشخصية.
واجهت روبوتات الدردشة المدعومة بالذكاء الاصطناعي، والمدمجة في منصة التواصل الاجتماعي X والتي توفر إمكانية إنشاء النصوص والصور، انتقادات عديدة منذ العام الماضي بسبب استخدامها لإنشاء صور مزيفة لأشخاص حقيقيين. وقد استُخدمت هذه الروبوتات لإنشاء صور مُخلّة بالآداب العامة، وهو ما أثار استياءً واسعاً.
وفقًا للمنظمة العالمية غير الحكومية "مركز مكافحة الكراهية الرقمية"، تشير التقديرات إلى أن برنامج Grok قد تم استخدامه لإنشاء أكثر من ثلاثة ملايين صورة جنسية صريحة بين 29 ديسمبر 2025 و 8 يناير 2026.
تزعم المنظمة أن من بين هذا العدد، أكثر من 23 ألف صورة لقاصرين تم إنشاؤها باستخدام برنامج الدردشة الآلي. وحذر المركز من أن الانتشار السريع للصور التي أنشأها الذكاء الاصطناعي لبرنامج "غروك" قد أدى إلى تداول واسع النطاق لمحتوى فاضح على الإنترنت.
تطالب الهيئة التنظيمية بتقرير عن الإجراءات المتخذة للحد من هذا الخطر
كما حذّر المركز من المخاطر الأمنية الجسيمة التي يشكلها هذا المشروع على الأطفال. ونتيجةً لهذا الخطر، بدأت دولٌ مثل الولايات المتحدة والمملكة المتحدة وفرنسا وكندا وغيرها تحقيقاتٍ في الأمر ، بينما حظرت دولٌ مثل إندونيسيا والفلبين وماليزيا الوصول إلى منصة "غروك".
رداً على الجدل الدائر، أعلنت شركة xAI في وقت سابق من هذا العام أنها نفذت بعض الإجراءات التقنية لمنع ذلك.
زعمت المنصة أنها أوقفت المستخدمين المجانيين والمدفوعين على حد سواء من تعديل أو إنشاء صور لأشخاص حقيقيين، مضيفة أنها ستعلن عن مزيد من إجراءات الحماية قريباً جداً.
في كوريا، طالبت لجنة الإعلام والاتصالات (KMCC) شركة X باتخاذ تدابيرtronلحماية الشباب في 14 يناير. وأبلغت الهيئة التنظيمية الكورية منصة التواصل الاجتماعي أن شركة الذكاء الاصطناعي التابعة لها بحاجة إلى وضع خطة لمنع إنتاج محتوى غير قانوني أو ضار.
بالإضافة إلى ذلك، أضافت الهيئة التنظيمية أيضاً أن الشركة بحاجة إلى الحد من وصول القاصرين إلى هذا المحتوى.
لدى شركة X حاليًا مسؤولٌ مُعيّن لحماية الشباب في كوريا وفقًا للقانون، وتُقدّم تقارير سنوية بشأن الامتثال ذي الصلة. وقد حثّت لجنة الاتصالات الكورية (KMCC) المنصة على تقديم وثائق إضافية بشأن بروتوكول السلامة الخاص بـ Grok، مشيرةً إلى أن الصور الجنسية غير الرضائية التي يتم إنشاؤها وتوزيعها على منصتها، وخاصةً تلك التي تتضمن قاصرين، تُعدّ جريمة جنائية في كوريا.
حددت اللجنة مهلة أسبوعين. وفي حال عدم استجابة الشركة X أو تجاهلها للطلب، يجوز لها فرض غرامة إدارية تصل إلى 10 ملايين وون (6870 دولارًا أمريكيًا). وقد شُوهد هذا الإجراء نفسه في دول أخرى، حيث كُلفت شركة xAI بوضع تدابير للحد من تفاقم هذه الظاهرة.
ومثل كوريا، أعلنت الدول أيضاً عن غرامات كبيرة إذا فشلت الشركة في وضع وتقديم تقرير يوضح الخطوات التي اتخذتها للحد من تصاعد هذا الخطر.
