Les nouvelles normes de l'Australie pour lutter contre les dommages en ligne

Dans un mouvement révolutionnaire, le commissaire australien à la sécurité en ligne, Julie Inman Grant, a dévoilé des normes industrielles mondiales en premier lieu visant à obliger les grandes entreprises technologiques, y compris Apple, Google et Meta, à prendre des mesures plus substantielles pour faire face aux problèmes endémiques de matériel d'abus sexuel sur les mineurs en ligne et de contenu pro-terroriste sur leurs plateformes. Ces normes s'étendent également pour combattre l'émergence troublante de « deepfake » de pornographie infantile créée à l'aide d'IA générative.

Après plus de deux ans d'efforts intensifs et le rejet des codes provisoires proposés par l'industrie technologique, la commissaire Inman Grant a maintenant publié des normes provisoires qui s'appliquent aux services de stockage basés sur le cloud comme Apple iCloud, Google Drive et Microsoft OneDrive, ainsi qu'aux plateformes de messagerie telles que WhatsApp. L'objectif est d'obliger ces entreprises à intensifier leurs efforts pour éliminer les contenus illicites de leurs services.

Impact mondial anticipé

La commissaire Inman Grant, qui a précédemment occupé un poste de direction chez Twitter, espère que ces normes de l'industrie australienne serviront de précédent pour des réglementations similaires dans le monde entier afin de traiter la question omniprésente des contenus nuisibles. Il est important de noter que ces exigences n'obligeront pas les entreprises technologiques à compromettre leur propre chiffrement de bout en bout, qui est activé par défaut sur certains services comme WhatsApp.

Bien que les grandes plateformes technologiques aient des politiques interdisant les matériaux d'abus sexuel sur les mineurs sur leurs services publics, la commissaire Inman Grant soutient que ces entreprises n'ont pas fait assez pour surveiller leurs propres plateformes. Elle a précisé : « Nous comprenons les problèmes liés à la faisabilité technique, et nous ne leur demandons pas de faire quoi que ce soit qui soit techniquement impossible. Mais nous disons aussi que vous n'êtes pas dispensés de la responsabilité morale et légale d'éteindre simplement les lumières ou de fermer la porte et de faire semblant que cet abus horrible ne se produit pas sur vos plateformes. »

Par exemple, WhatsApp, un service chiffré de bout en bout, utilise divers signaux comportementaux pour détecter et signaler les parties non chiffrées de ses services, y compris les noms de profil et de groupe, ainsi que certains symboles connus pour représenter la pédopornographie, tels que les « emojis de pizza au fromage ». Cette approche proactive permet à WhatsApp de signaler 1,3 million d'incidents d'exploitation et d'abus sexuels sur les mineurs chaque année.

Défier la pédopornographie par deepfake

Les normes projetées étendent également leur champ d'application aux matériaux d'abus sexuel sur les mineurs et à la propagande terroriste générés à l'aide de logiciels open source et d'IA générative. Une tendance alarmante en Australie implique des étudiants créant des « pornodiffusions » (deepfake porn) de leurs pairs et les partageant dans des établissements éducatifs. La commissaire Inman Grant a exprimé ses inquiétudes, déclarant : « Nous voyons des matériaux d'abus sexuel sur les mineurs synthétiques signalés par nos lignes d'assistance, et c'est particulièrement préoccupant pour nos collègues des forces de l'ordre, car ils passent beaucoup de temps à identifier les victimes afin de pouvoir réellement sauver les enfants qui sont abusés. »

Elle a souligné l'importance d'intégrer la surveillance réglementaire dans la phase de conception de ces technologies pour garantir des sauvegardes robustes, empêchant la prolifération de contenus nuisibles. Selon la commissaire Inman Grant, « Si nous ne construisons pas et ne testons pas l'efficacité et la robustesse de ces garde-fous lors de la phase de conception, une fois qu'ils sont dans la nature et qu'ils se répliquent, nous jouons probablement à un jeu sans fin et quelque peu désespéré de taquinier la taupe (whack-a-mole). »

Consultation publique et mise en œuvre

Le bureau du Commissaire à la sécurité en ligne a lancé une période de consultation publique pour les normes projetées, qui durera 31 jours. À l'issue de cette période, les versions finales des normes seront présentées au parlement fédéral et devraient entrer en vigueur six mois après leur enregistrement.

Les normes non seulement imposent une modération des contenus plus stricte, mais exigent également que les entreprises technologiques allouent des ressources et du personnel suffisants aux efforts de confiance et de sécurité. 

La commissaire Inman Grant a déclaré : « Vous ne pouvez pas faire de modération de contenu si vous n'investissez pas dans ce personnel, ces politiques, ces processus et ces technologies. Et vous ne pouvez pas avoir le beurre et l'argent du beurre. Si vous ne scannez pas les abus sexuels sur les mineurs mais que vous ne fournissez ensuite aucun moyen au public de vous signaler lorsqu'ils en rencontrent sur vos services, alors vous fermez effectivement les yeux sur des scènes de crime en direct qui se produisent sur votre plateforme. »

L'introduction de ces normes fait suite à un incident récent impliquant le géant des réseaux sociaux X, anciennement connu sous le nom de Twitter, qui a refusé de payer une amende de 610 500 dollars imposée par le Commissaire à la sécurité en ligne pour avoir prétendument échoué à traiter adéquatement les matériaux d'exploitation des mineurs sur sa plateforme. X a déposé une demande de contrôle judiciaire devant le Tribunal fédéral. Le bureau de la commissaire Inman Grant continue d'évaluer ses options concernant la non-conformité de X Corp à l'avis de déclaration, mais s'abstient de commenter les procédures juridiques en cours.

À une époque où la technologie a amplifié la diffusion de contenus nuisibles, le mouvement pionnier de l'Australie pour établir des normes industrielles complètes signale une étape importante vers la garantie de la sécurité des espaces en ligne, en particulier pour les enfants et les personnes vulnérables. Alors que ces normes font l'objet d'une consultation publique et de leur mise en œuvre éventuelle, le monde regardera de près pour voir si d'autres nations suivent l'exemple de l'Australie dans la lutte contre l'exploitation sexuelle des mineurs en ligne et les contenus pro-terroristes.