المعايير الجديدة في أستراليا لمكافحة الأضرار عبر الإنترنت

في خطوة رائدة، كشفت جولي إنمان غرانت، مفوضة السلامة الإلكترونية في أستراليا، عن معايير صناعية هي الأولى من نوعها عالميًا، تهدف إلى إلزام شركات التكنولوجيا الكبرى، بما فيها آبلوجوجل وميتا، باتخاذ إجراءات أكثر فعالية لمعالجة مشكلة انتشار مواد الاستغلال الجنسي للأطفال عبر الإنترنت والمحتوى المؤيد للإرهاب على منصاتها. وتشمل هذه المعايير أيضًا مكافحة الظهور المقلق لتقنية "التزييف العميق" في إنتاج مواد إباحية للأطفال باستخدام الذكاء الاصطناعي التوليدي. 

بعد أكثر من عامين من الجهود المكثفة ورفض مسودات القوانين التي اقترحتها شركات التكنولوجيا، أصدر المفوض إنمان غرانت الآن مسودة معايير تنطبق على خدمات التخزين السحابي مثل Apple iCloud وGoogle Drive وMicrosoft OneDrive، بالإضافة إلى منصات المراسلة مثل WhatsApp. والهدف من ذلك هو إلزام هذه الشركات بتكثيف جهودها لإزالة المحتوى غير القانوني من خدماتها.

من المتوقع أن يكون التأثير العالمي

يأمل المفوض إنمان غرانت، الذي شغل سابقًا منصبًا تنفيذيًا في تويتر، أنdent هذه المعايير الصناعية الأسترالية سابقةً للوائح مماثلة في جميع أنحاء العالم لمعالجة مشكلة المحتوى الضار المتفشية. ومن الجدير بالذكر أن هذه المتطلبات لن تُجبر شركات التكنولوجيا على التنازل عن تشفيرها التام، المُفعّل افتراضيًا في بعض الخدمات مثل واتساب.

رغم أن منصات التكنولوجيا الكبرى لديها سياسات تحظر نشر مواد الاعتداء الجنسي على الأطفال على خدماتها العامة، إلا أن المفوضة إنمان غرانت ترى أن هذه الشركات لم تبذل جهدًا كافيًا لمراقبة منصاتها. وأوضحت قائلة: "نتفهم المسائل المتعلقة بالجدوى التقنية، ولا نطلب منهم القيام بأي شيء غير ممكن تقنيًا. لكننا نقول أيضًا إنكم لستم معفيين من المسؤولية الأخلاقية والقانونية لمجرد إطفاء الأنوار أو إغلاق الباب والتظاهر بأن هذا الاعتداء المروع لا يحدث على منصاتكم"

فعلى سبيل المثال، يستخدم تطبيق واتساب، وهو خدمة مشفرة من طرف إلى طرف، إشارات سلوكية متنوعة للكشف عن الأجزاء غير المشفرة من خدماته والإبلاغ عنها، بما في ذلك أسماء الملفات الشخصية ومجموعات الدردشة، بالإضافة إلى رموز معينة معروفة بأنها تمثل مواد إباحية للأطفال، مثل "رموز تعبيرية لبيتزا بالجبن". ويتيح هذا النهج الاستباقي لتطبيق واتساب الإبلاغ عن 1.3 مليون حالة استغلال وإساءة جنسية للأطفال كل عام.

تحدي المواد الإباحية للأطفال المزيفة بتقنية التزييف العميق

تشمل المعايير المقترحة أيضًا نطاق تطبيقها على مواد الاعتداء الجنسي على الأطفال والدعاية الإرهابية المُولّدة باستخدام برامج مفتوحة المصدر وتقنيات الذكاء الاصطناعي التوليدي. ومن بين الاتجاهات المقلقة في أستراليا قيامdentبإنشاء مقاطع فيديو إباحية مُفبركة بتقنية التزييف العميق لزملائهم ومشاركتها داخل المؤسسات التعليمية. وقد أعربت المفوضة إنمان غرانت عن قلقها قائلةً: "نشهد ورود بلاغات عبر خطوطنا الساخنة عن مواد اصطناعية للاعتداء الجنسي على الأطفال، وهذا الأمر يُثير قلقًا بالغًا لدى زملائنا في أجهزة إنفاذ القانون، لأنهم يُكرّسون وقتًا طويلًا لتحديدdentالضحايا لإنقاذ الأطفال المُعرّضين للاعتداء"

أكدت على أهمية دمج الرقابة التنظيمية في مرحلة تصميم هذه التقنيات لضمان وجود ضمانات قوية، ومنع انتشار المحتوى الضار. ووفقًا للمفوضة إنمان غرانت، "إذا لم نقم ببناء هذه الضوابط واختبار فعاليتها ومتانتها في مرحلة التصميم، فبمجرد طرحها في السوق وانتشارها، فإننا سنكون كمن يلعب لعبة لا نهاية لها، وربما ميؤوس منها، أشبه بلعبة ضرب الخلد".

التشاور العام والتنفيذ

بدأ مكتب مفوض السلامة الإلكترونية فترة استشارة عامة بشأن مسودة المعايير، والتي ستستمر لمدة 31 يومًا. بعد هذه الفترة، سيتم عرض النسخ النهائية من المعايير على البرلمان الاتحادي، ومن المقرر أن تدخل حيز التنفيذ بعد ستة أشهر من تسجيلها.

لا تقتصر المعايير على فرض رقابة أكثر صرامة على المحتوى فحسب، بل تتطلب أيضًا من شركات التكنولوجيا تخصيص موارد وموظفين كافيين لجهود تعزيز الثقة والسلامة. 

صرح المفوض إنمان غرانت قائلاً: "لا يمكن تطبيق مراقبة المحتوى دون الاستثمار في الكوادر والسياسات والإجراءات والتقنيات اللازمة. ولا يمكن الجمع بين cake . فإذا لم يتم فحص حالات الاعتداء الجنسي على الأطفال، ثم لم يتم توفير آلية للجمهور للإبلاغ عنها عند مصادفتها على منصاتكم، فإنكم بذلك تتجاهلون فعلياً جرائم تحدث مباشرة على منصتكم."

يأتي تطبيق هذه المعايير فيdent مؤخرًا تورطت فيها شركة التواصل الاجتماعي العملاقة X، المعروفة سابقًا باسم تويتر، والتي رفضت دفع غرامة قدرها 610,500 دولار أمريكي فرضها مفوض السلامة الإلكترونية لتقصيرها المزعوم في معالجة مواد استغلال الأطفال على منصتها بشكل كافٍ. وقد رفعت X دعوى قضائية للمراجعة أمام المحكمة الفيدرالية. ويواصل مكتب المفوض إنمان غرانت تقييم خياراته بشأن عدم امتثال شركة X لإشعار الإبلاغ، ولكنه يمتنع عن التعليق على الإجراءات القانونية الجارية.

في عصرٍ ضاعفت فيه التكنولوجيا من انتشار المحتوى الضار، تُشير خطوة أستراليا الرائدة نحو وضع معايير صناعية شاملة إلى تطورٍ هام يُعزز سلامة الفضاء الإلكتروني، لا سيما للأطفال والفئات الضعيفة. ومع خضوع هذه المعايير للاستشارة العامة تمهيداً لتطبيقها، سيترقب العالم عن كثب ما إذا كانت دول أخرى ستحذو حذو أستراليا في مكافحة استغلال الأطفال عبر الإنترنت والمحتوى المُؤيد للإرهاب.