Google, OpenAI, Roblox e Discord si sono uniti per fare del bene alla società, fondando di recente una nuova organizzazione no-profit volta a migliorare la sicurezza dei bambini online.
L'iniziativa è nota come Robust Open Online Safety Tools (ROOST) e lavorerà per garantire che le tecnologie di sicurezza fondamentali siano più accessibili alle aziende, fornendo al contempo strumenti di intelligenza artificiale gratuiti e open source perdent, esaminare e segnalare materiale di abuso sessuale su minori.
Le molestie sessuali sui minori sono un'epidemia mondiale che continua a prosperare negli spazi online nonostante gli sforzi per arginarle. Di recente, molti utenti di app e persino legislatori hanno suggerito che i creatori di app come Mark Zuckerberg di Meta si assumano la responsabilità dei danni causati dai loro prodotti, soprattutto quando sono coinvolti pornografia infantile e abusi sessuali.
L'iniziativa risponde a un bisogno critico
L'iniziativa congiunta nasce in parte in risposta ai cambiamenti che i progressi dell'intelligenza artificiale generativa hanno apportato agli ambienti online. Eric Schmidt, socio fondatore di ROOST ed ex CEO di Google, afferma che l'iniziativa mira a rispondere a "un'esigenza fondamentale: accelerare l'innovazione nella sicurezza online dei minori".
Al momento, i dettagli sugli strumenti di rilevamento del CSAM non sono ancora completamente disponibili. Sappiamo però che utilizzeranno modelli di intelligenza artificiale per l'analisi del linguaggio e "unificheranno" le opzioni esistenti per la gestione di tali contenuti.
"Partendo da una piattaforma incentrata sulla tutela dei minori, l'approccio collaborativo e open source di ROOST promuoverà l'innovazione e renderà le infrastrutture essenziali più trasparenti, accessibili e inclusive, con l'obiettivo di creare un Internet più sicuro per tutti", ha affermato Schmidt.
Come già affermato in precedenza, l'annuncio del ROOST coincide con un'intensa attività normativa in materia di sicurezza dei minori sui social media e sulle piattaforme online. Le aziende stanno ora cercando di placare i legislatori in guerra con la proposta di autoregolamentazione.
ROOST collaborerà con i principali sviluppatori di modelli di base di intelligenza artificiale per raggiungere il suo obiettivo
Secondo il National Center for Missing and Exploited Children (NCMEC), il sospetto sfruttamento minorile è aumentato del 12% tra il 2022 e il 2023. Nel 2020, oltre la metà dei bambini statunitensi utilizzava Roblox e l'azienda è stata ripetutamente criticata per non aver affrontato il problema dello sfruttamento sessuale dei minori e dell'esposizione a contenuti inappropriati sulla sua piattaforma.
I membri fondatori di ROOST, con tutte le loro risorse, forniranno finanziamenti e metteranno a disposizione i loro strumenti o competenze per il progetto man mano che prenderà forma. L'iniziativa ha inoltre affermato che collaborerà con i principali sviluppatori di modelli di base per l'intelligenza artificiale per creare una "comunità di pratica" per la salvaguardia dei contenuti. Ciò includerà la fornitura di set di dati di addestramento all'intelligenza artificiale verificati e l'dentdi lacune nella sicurezza.
L'iniziativa renderà inoltre più accessibili gli "strumenti già esistenti", combinando efficacemente diverse tecnologie di rilevamento e segnalazione delle organizzazioni che ne fanno parte in un'unica soluzione che altre aziende potranno implementare più facilmente.
Roblox e Discord lavorano per rinnovare la loro reputazione
Insieme a Roblox, anche Discord è stata presa di mira in una causa sui social media intentata nel 2022, in cui si sosteneva che le piattaforme non facevano nulla per impedire agli adulti di inviare messaggi ai bambini senza supervisione.
Naren Koneru,dent di Roblox per l'ingegneria, la fiducia e la sicurezza, ha affermato che ROOST potrebbe ospitare sistemi di moderazione basati sull'intelligenza artificiale che le aziende possono integrare tramite chiamate API. Tuttavia, vi è una certa vaghezza su cosa copriranno gli strumenti di moderazione basati sull'intelligenza artificiale di ROOST.
Ad esempio, Discord afferma che i suoi contributi si baseranno sul progetto di condivisione di informazioni multipiattaforma Lantern, a cui ha aderito nel 2023 insieme a Meta e Google. Ma potrebbe anche includere una versione aggiornata del modello di intelligenza artificiale di Roblox per il rilevamento di volgarità, razzismo, bullismo, sexting e altri contenuti inappropriati nelle clip audio, che l'azienda prevede di rilasciare come open source quest'anno.
Resta da vedere come questi strumenti interagiranno con i sistemi di rilevamento CSAM di prima linea già esistenti, come lo strumento di analisi delle immagini PhotoDNA di Microsoft.
Oltre a far parte di ROOST, Discord ha anche rilasciato una nuova funzionalità "Ignora" che consente agli utenti di nascondere i messaggi e le notifiche che ricevono senza avvisare le persone che hanno silenziato.
"In Discord, crediamo che la sicurezza sia un bene comune", ha dichiarato Clint Smith, Chief Legal Officer di Discord, nell'annuncio di ROOST. "Ci impegniamo a rendere l'intera rete Internet, non solo Discord, un posto migliore e più sicuro, soprattutto per i giovani"
Ad oggi, l'iniziativa ha raccolto più di 27 milioni di dollari, che rappresenteranno i suoi primi quattro anni di attività, con il sostegno di organizzazioni filantropiche come la McGovern Foundation, il Future of Online Trust and Safety Fund, la Knight Foundation e l'AI Collaborative.
L'organizzazione ROOST potrà contare anche sul supporto di esperti in sicurezza dei minori, intelligenza artificiale, tecnologia open source e "contrasto all'estremismo violento". Si tratta essenzialmente del culmine della collaborazione tra le menti più brillanti del settore tecnologico per contrastare gli abusi sessuali sui minori e la diffusione di tali contenuti in tutto il mondo. Essendo open source, la comunità globale di sviluppatori potrà apportare continui aggiornamenti e miglioramenti, il che significa che il progetto che ROOST sta per creare continuerà a evolversi nel tempo.
