Nouvelles normes australiennes pour lutter contre les méfaits en ligne

Dans une initiative sans précédent, la commissaire australienne à la sécurité en ligne, Julie Inman Grant, a dévoilé des normes sectorielles inédites au niveau mondial. Ces normes visent à contraindre les géants de la tech, tels qu'Apple, Google et Meta, à prendre des mesures plus concrètes pour lutter contre la prolifération des contenus pédopornographiques et des contenus pro-terroristes sur leurs plateformes. Elles s'étendent également à la lutte contre l'émergence inquiétante de « deepfakes », ces images pédopornographiques créées à l'aide d'intelligence artificielle générative. 

Après plus de deux ans d'efforts soutenus et le rejet des projets de codes proposés par le secteur technologique, le commissaire Inman Grant a publié un projet de normes applicables aux services de stockage en nuage tels qu'Apple iCloud, Google Drive et Microsoft OneDrive, ainsi qu'aux plateformes de messagerie comme WhatsApp. L'objectif est d'inciter ces entreprises à redoubler d'efforts pour éliminer les contenus illicites de leurs services.

Impact mondial anticipé

Le commissaire Inman Grant, ancien cadre chez Twitter, espère que ces normes australiennes serviront dedent pour des réglementations similaires à travers le monde afin de lutter contre le problème omniprésent des contenus préjudiciables. Il est important de noter que ces exigences n'obligeront pas les entreprises technologiques à compromettre leur propre chiffrement de bout en bout, activé par défaut sur certains services comme WhatsApp.

Bien que les principales plateformes numériques aient des politiques interdisant la diffusion de contenus pédopornographiques sur leurs services publics, la commissaire Inman Grant affirme que ces entreprises n'ont pas suffisamment contrôlé leurs propres plateformes. Elle a précisé : « Nous comprenons les problèmes de faisabilité technique et nous ne leur demandons rien d'irréalisable. Mais nous disons aussi qu'elles ne sont pas exemptées de leur responsabilité morale et légale de fermer les yeux ou de faire comme si ces abus horribles n'existaient pas sur leurs plateformes. »

Par exemple, WhatsApp, un service chiffré de bout en bout, utilise divers signaux comportementaux pour détecter et signaler les parties non chiffrées de ses services, notamment les noms de profil et de groupe, ainsi que certains symboles connus pour représenter la pornographie infantile, tels que les émojis de pizza au fromage. Cette approche proactive permet à WhatsApp de signaler 1,3 million de cas d'exploitation et d'abus sexuels sur enfants chaque année.

Lutter contre la pornographie infantile deepfake

Les normes en cours d'élaboration étendent également leur champ d'application aux contenus pédopornographiques et à la propagande terroriste générés à l'aide de logiciels libres et d'intelligence artificielle générative. En Australie, une tendance alarmante se dessine : desdentcréent de faux contenus pornographiques (« deep fake porn ») mettant en scène leurs camarades et les partagent dans un cadre scolaire. La commissaire Inman Grant a exprimé son inquiétude : « Nous constatons que des contenus pédopornographiques synthétiques sont signalés via nos lignes d'assistance téléphonique, ce qui est particulièrement préoccupant pour nos collègues des forces de l'ordre, car ils consacrent beaucoup de temps à l'dentdes victimes afin de pouvoir sauver les enfants victimes d'abus. »

Elle a souligné l'importance d'intégrer un contrôle réglementaire dès la conception de ces technologies afin de garantir des garanties solides et d'empêcher la prolifération de contenus nuisibles. Selon le commissaire Inman Grant : « Si nous n'intégrons pas et ne testons pas l'efficacité et la robustesse de ces garde-fous dès la phase de conception, une fois ces technologies déployées et qu'elles se répliquent, nous nous engageons probablement dans un jeu de taupe sans fin et quelque peu vain. »

consultation et mise en œuvre publiques

Le bureau du commissaire à la sécurité en ligne a lancé une consultation publique sur le projet de normes, qui durera 31 jours. À l'issue de cette période, les versions définitives des normes seront présentées au Parlement fédéral et entreront en vigueur six mois après leur enregistrement.

Ces normes imposent non seulement une modération de contenu plus stricte, mais exigent également des entreprises technologiques qu'elles consacrent des ressources et du personnel suffisants aux efforts en matière de confiance et de sécurité. 

Le commissaire Inman Grant a déclaré : « On ne peut pas modérer les contenus sans investir dans le personnel, les politiques, les procédures et les technologies nécessaires. On ne peut pas avoir le cake et l’argent du beurre. Si vous ne surveillez pas les cas d’abus sexuels sur enfants et que vous n’offrez aucun moyen au public de vous les signaler lorsqu’il les découvre sur vos services, vous fermez de fait les yeux sur des crimes qui se déroulent en direct sur votre plateforme. »

L'introduction de ces normes fait suite à undent récent impliquant le géant des médias sociaux X, anciennement connu sous le nom de Twitter, qui a refusé de payer une amende de 610 500 $ imposée par le commissaire à la sécurité en ligne pour avoir prétendument omis de lutter adéquatement contre la présence de contenu pédopornographique sur sa plateforme. X a déposé une demande de contrôle judiciaire auprès de la Cour fédérale. Le bureau du commissaire Inman Grant continue d'évaluer les options qui s'offrent à lui concernant le non-respect par X Corp de l'avis de déclaration, mais s'abstient de tout commentaire sur les procédures judiciaires en cours.

À l'heure où la technologie amplifie la diffusion de contenus préjudiciables, l'initiative pionnière de l'Australie d'établir des normes sectorielles exhaustives constitue un pas important vers la sécurité des espaces en ligne, notamment pour les enfants et les personnes vulnérables. Alors que ces normes font l'objet d'une consultation publique et d'une mise en œuvre progressive, la communauté internationale observera attentivement si d'autres nations emboîtent le pas à l'Australie dans la lutte contre l'exploitation des enfants en ligne et les contenus pro-terroristes.