المعايير الجديدة في أستراليا لمكافحة الأذى عبر الإنترنت

في خطوة رائدة، كشفت مفوضة الأمان الإلكتروني في أستراليا، جولي إنمان جرانت، عن معايير صناعية عالمية من نوعها تهدف إلى إلزام شركات التكنولوجيا الكبرى، بما في ذلك Apple، وجوجل، وميتا، باتخاذ إجراءات أكثر جدية لمعالجة القضايا الوبائية لمواد الإساءة الجنسية للأطفال عبر الإنترنت والمحتوى المؤيد للإرهاب على منصاتهم. تمتد هذه المعايير أيضاً لمكافحة الظهور المثير للقلق لـ "الديب فيك" (التزييف العميق) لصور الأطفال الإباحية التي تم إنشاؤها باستخدام الذكاء الاصطناعي التوليدي.

بعد أكثر من عامين من الجهود المكثفة ورفض الكودات المقترحة من قبل صناعة التكنولوجيا، أصدرت المفوضة إنمان جرانت الآن معايير مسودة تنطبق على خدمات التخزين السحابية مثل Apple iCloud وGoogle Drive وMicrosoft OneDrive، بالإضافة إلى منصات المراسلة مثل WhatsApp. الهدف هو إلزام هذه الشركات بتكثيف جهودها للقضاء على المحتوى غير القانوني من خدماتها.

تأثير عالمي متوقع

تأمل المفوضة إيمان غرانت، التي شغلت سابقاً منصباً تنفيذياً في تويتر، أن تكون معايير صناعة هذه الأسترالية بمثابة سابقة للوائح المماثلة في جميع أنحاء العالم لمعالجة المشكلة المنتشرة للمحتوى الضار. ومن الجدير بالذكر أن هذه المتطلبات لن تجبر شركات التكنولوجيا على المساس بتشفيرها من طرف إلى طرف، والذي يتم تفعيله بشكل افتراضي في بعض الخدمات مثل واتساب.

في حين أن منصات التكنولوجيا الكبرى لديها سياسات تحظر مواد إساءة معاملة الأطفال الجنسية على خدماتها العامة، تزعم المفوضة إيمان غرانت أن هذه الشركات لم تفعل ما يكفي لمراقبة منصات الخاصة بها. وأوضحت قائلة: "نحن نفهم القضايا المتعلقة بالجدوى التقنية، ولا نطلب منهم القيام بأي شيء غير ممكن تقنياً. لكننا نقول أيضاً إنكم لستم معفيين من المسؤولية الأخلاقية والقانونية لإطفاء الأنوار أو إغلاق الباب والتظاهر بأن هذا الإيذاء المروع لا يحدث على منصاتكم."

على سبيل المثال، تستخدم واتساب، وهي خدمة مشفرة من طرف إلى طرف، إشارات سلوكية متنوعة للكشف عن الأجزاء غير المشفرة من خدماتها والإبلاغ عنها، بما في ذلك أسماء الملفات الشخصية ومجموعات الدردشة، بالإضافة إلى رموز معينة معروفة بأنها تمثل مواد إباحية للأطفال، مثل "إيموجي البيتزا بالجبن". يسمح هذا النهج الاستباقي لواتساب بالإبلاغ عن 1.3 مليون حالة استغلال وإساءة معاملة جنسية للأطفال كل عام.

تحدي مواد الإباحية للأطفال المزيفة عميقاً

تمتد المعايير المقترحة أيضاً لشمول مواد إساءة معاملة الأطفال الجنسية والدعاية الإرهابية التي تم إنشاؤها باستخدام البرمجيات مفتوحة المصدر والذكاء الاصطناعي التوليدي. وتشير اتجاه مثير للقلق في أستراليا إلى قيام الطلاب بإنشاء "بورتريهات إباحية مزيفة" لزملائهم ومشاركتها داخل البيئات التعليمية. أعربت المفوضة إيمان غرانت عن قلقها قائلة: "نحن نرى تقارير عن مواد إساءة معاملة الأطفال الجنسية الاصطناعية من خلال خطوطنا الساخنة، وهذا أمر مقلق بشكل خاص لزملائنا في إنفاذ القانون، لأنهم يقضون الكثير من الوقت في تحديد هوية الضحايا حتى يتمكنوا من إنقاذ الأطفال الذين يتم إيذاؤهم."

شددت على أهمية دمج الرقابة التنظيمية في مرحلة تصميم هذه التقنيات لضمان وجود ضوابط قوية، ومنع انتشار المحتوى الضار. ووفقاً للمفوضة إنمان جرانت، "إذا لم نكن نبني ونختبر فعالية ومتانة هذه السياج الحامي في مرحلة التصميم، بمجرد أن تكون في البرية، وتقوم بالتكاثر، فإننا نلعب مجرد لعبة يائسة إلى حد ما وغير مجدية من الضرب على الخلد."

المشاورات العامة والتنفيذ

بدأ مكتب مفوضة السلامة الإلكترونية فترة مشاورات عامة للمعايير المقترحة، والتي ستستمر لمدة 31 يوماً. بعد هذه الفترة، سيتم تقديم النسخ النهائية من المعايير إلى البرلمان الفيدرالي ومن المقرر أن تدخل حيز التنفيذ بعد ستة أشهر من تسجيلها.

لا تفرض المعايير فقط تدابير أكثر صرامة لتعديل المحتوى، بل تتطلب أيضاً من شركات التكنولوجيا تخصيص موارد كافية وموظفين لجهود الثقة والسلامة. 

قالت المفوضة إيمان غرانت: "لا يمكنك القيام بتعديل المحتوى إذا لم تستثمر في تلك الموظفين والسياسات والعمليات والتقنيات. ولا يمكنك أن تأكل كعكتك وتحافظ عليها أيضاً. إذا لم تكن تقوم بفحص مواد إساءة معاملة الأطفال الجنسية ثم لا توفر أي طريقة للجمهور للإبلاغ إليك عندما يواجهونها على خدماتك، فإنك تكون فعلياً تتغاضى عن مشاهد الجرائم الحية التي تحدث على منصتك."

تأتي هذه المعايير بعد حادث مؤخرًا يتضمن عملاق وسائل التواصل الاجتماعي إكس (X)، المعروف سابقاً باسم تويتر، الذي رفض دفع غرامة قدرها 610,500 دولار فرضها مفوض السلامة الإلكترونية لادعاء عدم تعامله بشكل كافٍ مع مواد استغلال الأطفال على منصته. وقد قدم إكس طلباً لمراجعة قضائية في المحكمة الاتحادية. يستمر مكتب المفوضة إيمان غرانت في تقييم خياراته بشأن عدم امتثال شركة إكس لإشعار الإبلاغ، لكنه يمتنع عن التعليق على الإجراءات القانونية الجارية.

في عصر تضخ فيه التكنولوجيا من انتشار المحتوى الضار، تشير الخطوة الرائدة لأستراليا في وضع معايير شاملة للصناعة إلى خطوة كبيرة نحو ضمان سلامة المساحات عبر الإنترنت، لا سيما للأطفال والأفراد الضعفاء. ومع خضوع هذه المعايير للمشاورات العامة والتنفيذ النهائي، سيشاهد العالم عن كثب ما إذا كانت دول أخرى ستقتدي بأستراليا في مكافحة الاستغلال الجنسي للأطفال عبر الإنترنت والمحتوى المؤيد للإرهاب.