Nuovi standard australiani per combattere i danni online

Con una mossa innovativa, la Commissaria australiana per la sicurezza online, Julie Inman Grant, ha presentato standard di settore unici al mondo, volti a obbligare le principali aziende tecnologiche, tra cui Apple, Google e Meta, ad adottare misure più concrete per affrontare il dilagante problema del materiale pedopornografico online e dei contenuti pro-terrorismo sulle loro piattaforme. Questi standard si estendono anche alla lotta contro la preoccupante diffusione dei "deepfake", ovvero immagini pedopornografiche create con l'intelligenza artificiale generativa. 

Dopo oltre due anni di intensi sforzi e il rigetto delle bozze di codice proposte dall'industria tecnologica, il Commissario Inman Grant ha ora pubblicato una bozza di standard che si applicano ai servizi di archiviazione basati su cloud come Apple iCloud, Google Drive e Microsoft OneDrive, nonché alle piattaforme di messaggistica come WhatsApp. L'obiettivo è costringere queste aziende a intensificare gli sforzi per eliminare i contenuti illeciti dai loro servizi.

Impatto globale previsto

Il Commissario Inman Grant, che in precedenza ha ricoperto un incarico dirigenziale presso Twitter, auspica che questi standard di settore australiani costituiscano undent per normative simili in tutto il mondo volte ad affrontare il problema diffuso dei contenuti dannosi. È importante sottolineare che questi requisiti non costringeranno le aziende tecnologiche a compromettere la propria crittografia end-to-end, abilitata di default su alcuni servizi come WhatsApp.

Sebbene le principali piattaforme tecnologiche abbiano politiche che vietano la pubblicazione di materiale pedopornografico sui loro servizi pubblici, la Commissaria Inman Grant sostiene che queste aziende non abbiano fatto abbastanza per controllare le proprie piattaforme. Ha chiarito: "Comprendiamo le problematiche di fattibilità tecnica e non chiediamo loro di fare nulla di tecnicamente irrealizzabile. Ma stiamo anche dicendo che non siete esonerati dalla responsabilità morale e legale di spegnere le luci o chiudere la porta e fingere che questo orribile abuso non stia accadendo sulle vostre piattaforme"

Ad esempio, WhatsApp, un servizio crittografato end-to-end, utilizza vari segnali comportamentali per rilevare e segnalare parti non crittografate dei suoi servizi, tra cui nomi di profili e chat di gruppo, nonché alcuni simboli noti per rappresentare pornografia infantile, come gli "emoji della pizza al formaggio". Questo approccio proattivo consente a WhatsApp di segnalare 1,3 milioni di casi di sfruttamento e abuso sessuale su minori ogni anno.

Sfida alla pornografia infantile deep fake

Gli standard elaborati estendono anche il loro campo di applicazione al materiale di abusi sessuali su minori e alla propaganda terroristica generata utilizzando software open source e intelligenza artificiale generativa. Una tendenza allarmante in Australia vede glidentcreare "deep fake porn" dei loro coetanei e condividerli in contesti educativi. Il Commissario Inman Grant ha espresso la sua preoccupazione, affermando: "Stiamo assistendo alla segnalazione di materiale sintetico di abusi sessuali su minori tramite le nostre linee di assistenza, e questo è particolarmente preoccupante per i nostri colleghi delle forze dell'ordine, perché dedicano molto tempodentdelle vittime in modo da poter effettivamente salvare i bambini che subiscono abusi"

Ha sottolineato l'importanza di integrare il controllo normativo nella fase di progettazione di queste tecnologie per garantire solide misure di sicurezza e prevenire la proliferazione di contenuti dannosi. Secondo il Commissario Inman Grant, "Se non integriamo e non testiamo l'efficacia e la robustezza di queste misure di protezione nella fase di progettazione, una volta che queste tecnologie vengono diffuse e si replicano, ci ritroviamo a giocare a un gioco a rincorrere la talpa, probabilmente infinito e per nulla disperato".

Consultazione pubblica e attuazione

L'ufficio del Commissario per la sicurezza elettronica ha avviato una consultazione pubblica per le bozze di standard, che durerà 31 giorni. Dopo questo periodo, le versioni definitive degli standard saranno presentate al Parlamento federale ed entreranno in vigore sei mesi dopo la loro registrazione.

Gli standard non solo impongono una moderazione più rigorosa dei contenuti, ma impongono anche alle aziende tecnologiche di destinare risorse e personale sufficienti agli sforzi di fiducia e sicurezza. 

Il Commissario Inman Grant ha dichiarato: "Non si può moderare i contenuti se non si investe in personale, politiche, processi e tecnologie. E non si può avere la cake e la moglie ubriaca. Se non si effettuano scansioni per individuare gli abusi sessuali su minori, ma poi non si offre al pubblico la possibilità di segnalarli quando li riscontra sui propri servizi, si sta di fatto chiudendo un occhio sulle scene del crimine in diretta sulla propria piattaforma"

L'introduzione di questi standard fa seguito a un recentedent che ha coinvolto il gigante dei social media X, precedentemente noto come Twitter, che si è rifiutato di pagare una multa di 610.500 dollari imposta dall'eSafety Commissioner per non aver presumibilmente affrontato adeguatamente il problema del materiale di sfruttamento minorile sulla sua piattaforma. X ha presentato una richiesta di revisione giudiziaria presso la Corte Federale. L'ufficio del Commissario Inman Grant continua a valutare le sue opzioni in merito alla mancata conformità di X Corp all'avviso di segnalazione, ma si astiene dal commentare i procedimenti legali in corso.

In un'epoca in cui la tecnologia ha amplificato la diffusione di contenuti dannosi, l'iniziativa pionieristica dell'Australia di stabilire standard di settore completi rappresenta un passo significativo verso la garanzia della sicurezza degli spazi online, in particolare per i bambini e le persone vulnerabili. Mentre questi standard vengono sottoposti a consultazione pubblica e alla loro eventuale implementazione, il mondo osserverà attentamente se altre nazioni seguiranno l'esempio dell'Australia nella lotta contro lo sfruttamento minorile online e i contenuti pro-terrorismo.