بينما يظل عدد التقارير التي تلقتها هيئة eSafety في أستراليا صغيراً، فإنه يشير إلى وجود ارتفاع حديث في التقارير المتعلقة بحوادث تتعلق باستخدام روبوت الدردشة لإنشاء صور جنسية أو استغلالية. في بيانها، حذرت هيئة الرقابة من أنها ستستخدم سلطاتها، بما في ذلك إشعارات الإزالة، حيث تلبي المواد التي تم إنشاؤها باستخدام روبوت الدردشة العتبة المحددة في قانون السلامة عبر الإنترنت الأسترالي.

رئيس الوزراء الأسترالي يهاجم منصة X بسبب إساءة استخدام Grok

انتقاداتهم ليست بعيدة المنال وهي جزء من رد فعل عالمي سلبي تجاه روبوت الدردشة Grok هذا الأسبوع، مما دفع منصة X إلى تقييد استخدام ذكاءها الاصطناعي لإنشاء أو تعديل الصور عن طريق تقييد الأداة للمشتركين المدفوعين. يوم الجمعة، كان Grok يرفض طلب المستخدمين غير المشتركين الذين يطلبون صوراً معدلة رقمياً. "إنشاء الصور وتعديلها مقيد حالياً للمشتركين المدفوعين. يمكنك الاشتراك لفتح هذه الميزات،" قال روبوت الدردشة.

من ناحية أخرى، اتخذت إندونيسيا إجراءً حاسماً ضد روبوت الدردشة Grok. أعلنت وزارة الاتصالات والشؤون الرقمية عن الخطوة يوم السبت، مستشهدة بالحاجة الملحة لحماية الأطفال والنساء من أضرار المحتوى الصريح الذي ينشئه الذكاء الاصطناعي. "تنظر الحكومة إلى الصور العميقة الجنسية غير المتفق عليها على أنها انتهاك خطير لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي،" قالت الوزيرة ميوتيا حفيظ في بيان رسمي.

في البيان الذي أصدره متحدث باسم هيئة eSafety، كانت معظم الشكاوى المستلمة تتعلق بمخاوف بشأن تعديل صور البالغين، بينما تضمنت نسبة صغيرة من تلك المواد المحتملة لاستغلال الأطفال جنسياً. "تلقيت تقارير إساءة الصور في وقت قريب جداً ولا تزال قيد التقييم،" قالت الوكالة. "بالنسبة لتقارير المحتوى غير القانوني والمقيد، لم تلبي المواد عتبة التصنيف لمواد استغلال الأطفال جنسياً من الفئة 1."

زعمت أن إساءة استخدام الذكاء الاصطناعي لإنشاء محتوى إباحي مزيف يشكل شكلاً من أشكال العنف القائم على الرقمية. في الوقت نفسه، تريد إندونيسيا من المنصات الرقمية في البلاد إثبات أنها لديها ضوابط في مكانها لمنع إنشاء وتوزيع المحتوى المحظور. كجزء من هذا التنفيذ، استدعت الوزارة منصة X (تويتر سابقاً). ستقدم الشركة توضيحات، تشرح التدابير المتخذة لقمع انتشار هذا الوباء.

نتيجة لذلك، قالت هيئة eSafety إنها رفضت إصدار إشعارات إزالة أو اتخاذ إجراءات إنفاذ فيما يتعلق بتلك الشكاوى. ومع ذلك، ذكر المتحدث أن المخاوف بشأن زيادة استخدام الذكاء الاصطناعي لتنفيذ استغلال الأطفال مستمرة. "هذا يبرز أهمية السلامة بالتصميم، بما في ذلك الحاجة إلى أن يكون لمنتجات الذكاء الاصطناعي التوليدي ضوابط وحواجز مناسبة مدمجة عبر كل مرحلة من دورة حياة المنتج، لمنع إساءة استخدام وتسلح هذه التقنيات قبل حدوث الضرر،" قالوا.

إندونيسيا تحظر مؤقتاً Grok بسبب الصور العميقة

هاجم رئيس الوزراء الأسترالي أنثوني ألبانيز منصة التدوين X بسبب استخدام Grok لتوليد صور غير لائقة. ألقى ألبانيز غضبه وراء المخاوف بشأن استخدام روبوت الدردشة بالذكاء الاصطناعي Grok لتمكين المحتوى الجنسي الاستغلالي. بينما يظل عدد التقارير التي تلقتها هيئة eSafety في أستراليا صغيراً، فإنه يشير إلى...

أعلنت السلطات الأمريكية في لويزيانا عن استرداد 200,000 دولار من محتالين في أجهزة الصراف الآلي للعملات المشفرة يستهدفون ضحايا مسنين. ووفقاً للتقارير، تم إحباط جهود المحتالين بفضل قانون لويزيانا الذي تم تمريره مؤخراً ويجعل من الصعب الآن على محتالين العملات المشفرة سرقة والتهرب من الأموال المملوكة للمقيمين المسنين....

من ناحية أخرى، اتخذت إندونيسيا إجراءً حاسماً ضد روبوت الدردشة Grok. أعلنت وزارة الاتصالات والشؤون الرقمية عن هذا الإجراء يوم السبت، مشيرة إلى الحاجة الملحة لحماية الأطفال والنساء من أضرار المحتوى الصريح الذي تولده الذكاء الاصطناعي. وقالت الوزيرة ميوتيا حفيظ في بيان رسمي: "تعتبر الحكومة الصور الجنسية العميقة غير المتفق عليها انتهاكاً خطيراً لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي".

زعمت أن إساءة استخدام الذكاء الاصطناعي لإنشاء محتوى إباحي مزيف يشكل شكلاً من أشكال العنف القائم على الرقمية. وفي الوقت نفسه، تريد إندونيسيا من المنصات الرقمية في البلاد إثبات وجود ضوابط لمنع إنشاء وتوزيع المحتوى المحظور. وكجزء من هذا الإنفاذ، استدعت الوزارة منصة X (تويتر سابقاً). ستقدم الشركة توضيحات، تشرح فيها التدابير المتخذة للحد من انتشار هذه الآفة.