I nuovi standard dell'Australia per combattere i danni online

In una mossa rivoluzionaria, il Commissario per la Sicurezza Digitale dell'Australia, Julie Inman Grant, ha presentato standard industriali senza precedenti a livello mondiale volti a spingere le principali aziende tecnologiche, tra cui Apple, Google e Meta, ad assumere azioni più sostanziali per affrontare i dilaganti problemi di materiale di abuso sessuale infantile online e contenuti pro-terrorismo sulle loro piattaforme. Questi standard si estendono anche alla lotta contro la preoccupante emergenza di pornografia infantile "deepfake" creata utilizzando l'IA generativa.

Dopo più di due anni di intensi sforzi e il rifiuto dei codici bozza proposti dall'industria tecnologica, il Commissario Inman Grant ha ora rilasciato standard bozza che si applicano ai servizi di archiviazione basati su cloud come Apple iCloud, Google Drive e Microsoft OneDrive, nonché alle piattaforme di messaggistica come WhatsApp. L'obiettivo è spingere queste aziende a intensificare i loro sforzi per eliminare i contenuti illeciti dai loro servizi.

Impatto globale previsto

Il Commissario Inman Grant, che in precedenza ha ricoperto una posizione esecutiva presso Twitter, spera che questi standard industriali australiani possano servire da precedente per regolamentazioni simili in tutto il mondo per affrontare il pervasivo problema dei contenuti dannosi. È importante notare che questi requisiti non obbligheranno le aziende tecnologiche a compromettere la propria crittografia end-to-end, che è abilitata per impostazione predefinita su alcuni servizi come WhatsApp.

Sebbene le principali piattaforme tecnologiche abbiano politiche che vietano il materiale di abuso sessuale infantile sui loro servizi pubblici, il Commissario Inman Grant sostiene che queste aziende non abbiano fatto abbastanza per controllare le proprie piattaforme. Ha chiarito: "Comprendiamo le questioni relative alla fattibilità tecnica, e non stiamo chiedendo loro di fare nulla che sia tecnicamente inattuabile. Ma stiamo anche dicendo che non siete assolti dalla responsabilità morale e legale di semplicemente spegnere le luci o chiudere la porta e fingere che questo orribile abuso non stia accadendo sulle vostre piattaforme."

Ad esempio, WhatsApp, un servizio con crittografia end-to-end, impiega vari segnali comportamentali per rilevare e segnalare le parti non crittografate dei suoi servizi, inclusi i nomi dei profili e delle chat di gruppo, nonché alcuni simboli noti per rappresentare la pornografia infantile, come le "emoji della pizza al formaggio". Questo approccio proattivo consente a WhatsApp di segnalare 1,3 milioni di casi di sfruttamento e abuso sessuale minorile ogni anno.

Sfidare la pornografia infantile deepfake

Gli standard bozza estendono anche il loro ambito di applicazione al materiale di abuso sessuale infantile e alla propaganda terroristica generata utilizzando software open-source e IA generativa. Una tendenza allarmante in Australia coinvolge studenti che creano "pornografia deepfake" dei loro compagni e la condividono negli ambienti educativi. Il Commissario Inman Grant ha espresso la sua preoccupazione, affermando: "Stiamo vedendo materiale di abuso sessuale infantile sintetico segnalato attraverso le nostre hotline, ed è particolarmente preoccupante per i nostri colleghi delle forze dell'ordine, perché passano molto tempo a identificare le vittime in modo da poter effettivamente salvare i bambini che vengono abusati."

Ha sottolineato l'importanza di incorporare la scrutinio normativo nella fase di progettazione di queste tecnologie per garantire robuste misure di salvaguardia, impedendo la proliferazione di contenuti dannosi. Secondo il Commissario Inman Grant, "Se non stiamo costruendo e testando l'efficacia e la robustezza di queste protezioni nella fase di progettazione, una volta che sono diffuse e si replicano, stiamo semplicemente giocando probabilmente a un gioco senza fine e piuttosto disperato di 'whack-a-mole' (colpisci la talpa)."

Consultazione pubblica e implementazione

L'ufficio del Commissario per la Sicurezza Digitale ha avviato un periodo di consultazione pubblica per gli standard bozza, che durerà 31 giorni. Dopo questo periodo, le versioni finali degli standard saranno presentate al parlamento federale e dovrebbero entrare in vigore sei mesi dopo la loro registrazione.

Gli standard non solo impongono una moderazione dei contenuti più rigorosa, ma richiedono anche alle aziende tecnologiche di allocare risorse e personale sufficienti agli sforzi di fiducia e sicurezza. 

Il Commissario Inman Grant ha dichiarato: "Non puoi fare la moderazione dei contenuti se non investi in quel personale, politiche, processi e tecnologie. E non puoi avere la torta e mangiarla anche. Se non stai scansionando per l'abuso sessuale infantile ma poi non fornisci alcun modo per il pubblico di segnalartelo quando lo incontra sui tuoi servizi, allora stai effettivamente voltando le spalle a scene di crimine in diretta che avvengono sulla tua piattaforma."

L'introduzione di questi standard segue un recente incidente che ha coinvolto il gigante dei social media X, precedentemente noto come Twitter, che ha rifiutato di pagare una multa di $610.500 imposta dal Commissario per la Sicurezza Digitale per presunta mancata gestione adeguata del materiale di sfruttamento minorile sulla sua piattaforma. X ha presentato domanda di revisione giudiziaria presso la Corte Federale. L'ufficio del Commissario Inman Grant continua a valutare le sue opzioni riguardo alla mancata conformità di X Corp all'avviso di segnalazione, ma si astiene dal commentare i procedimenti legali in corso.

In un'era in cui la tecnologia ha amplificato la diffusione di contenuti dannosi, la mossa pionieristica dell'Australia per stabilire standard industriali completi segnala un passo significativo verso la garanzia della sicurezza degli spazi online, in particolare per bambini e individui vulnerabili. Mentre questi standard sono sottoposti a consultazione pubblica e successiva implementazione, il mondo osserverà da vicino se altre nazioni seguiranno l'esempio dell'Australia nella lotta contro lo sfruttamento sessuale online dei minori e i contenuti pro-terrorismo.