Telegram rimuove 15 milioni di gruppi illeciti con l'IA

Telegram ha rimosso circa 15 milioni di gruppi illeciti sulla sua piattaforma di messaggistica utilizzando l'intelligenza artificiale (IA). Negli ultimi mesi, la piattaforma è stata sotto una pressione immensa per purificare la sua applicazione di messaggistica da contenuti illeciti. La pressione ha portato all'arresto del suo CEO Pavel Durov in Francia, dove affronta accuse relative ai contenuti dannosi e illegali condivisi sull'applicazione.

Mentre Durov, che ha avuto il suo primo giorno in tribunale, è ancora sotto stretta restrizione, la piattaforma sembra essersi messa al lavoro. Secondo Telegram, ha ora rimosso più di 15,4 milioni di gruppi e canali illeciti relativi a frodi e altre attività illegali.

Nella sua dichiarazione, Telegram ha sottolineato che l'impresa è stata realizzata utilizzando strumenti di moderazione dell'intelligenza artificiale all'avanguardia. La mossa arriva dopo che la piattaforma ha annunciato una campagna di repressione a settembre, con Durov che ha notato che stavano cercando di conformarsi alle richieste governative.

Telegram lancia una nuova pagina di moderazione per monitorare gli sforzi

La nuova pagina di moderazione si allinea con la politica di trasparenza dell'azienda nelle sue operazioni. Secondo un post sulla pagina Telegram di Durov, l'azienda vuole che il pubblico veda i suoi sforzi nel contrastare queste attività illecite. Ha notato che il team di moderazione ha lavorato dietro le quinte negli ultimi mesi, rimuovendo i contenuti che violavano i suoi termini, e ha ringraziato gli utenti per il loro aiuto nel frenare la piaga.

Durov ha promesso di fornire aggiornamenti regolari che gli utenti possono vedere in tempo reale, mostrando quanto lavoro sta facendo il team di moderazione.

Secondo la pagina di moderazione, la piattaforma ha eseguito un tasso di applicazione più elevato dopo l'arresto di Durov. La pagina nota che la rimozione di account illeciti è in vigore dal 2015. I gruppi e i canali illegali bloccati attualmente ammontano a circa 15.474.022, rappresentando la cifra solo per il 2024.

Telegram ha anche aumentato la sua repressione sui Materiali di Abuso Sessuale Minorile (CSAM) quest'anno, bandendo un totale di 703.809 gruppi e canali.

Oltre alle segnalazioni degli utenti e al lavoro proattivo del team di moderazione, Telegram ha anche riportato migliaia di istanze elaborate tramite organizzazioni terze contro il CSAM, portando a bandi immediati. Scomponendo la cifra, evidenzia i primi quattro gruppi che hanno fornito più segnalazioni, tra cui l'Internet Watch Foundation, il National Center for Missing and Exploited Child, il Canadian Center for Child Protection e Stitching Offlimits.

Dal 2016, Telegram ha combattuto attivamente la violenza e la propaganda terroristica fornendo aggiornamenti quotidiani sui suoi sforzi, che sono stati riconosciuti da Europol. L'azienda ha notato che ha lavorato con numerose organizzazioni su questi fronti dal 2022, bandendo 100 milioni di contenuti terroristici. Nel 2024, Telegram ha rivelato di aver bloccato 129.099 contenuti correlati al terrorismo.

La continua restrizione di Durov nel mezzo degli sforzi per contrastare i materiali illeciti

Durov continuerà a essere sotto la attenta osservazione delle autorità francesi dopo il suo primo giorno in tribunale. Il CEO di Telegram è stato accompagnato dal suo consulente legale, rispondendo a diverse domande relative alle attività della piattaforma.

Sebbene Durov si sia rifiutato di commentare il caso dopo la sessione, ha espresso la sua fede nel sistema giudiziario francese e la sua innocenza. Tuttavia, se viene dichiarato colpevole, potrebbe passare fino a 10 anni in prigione, oltre a una multa di 550.000 dollari.

Nel frattempo, Telegram ha recentemente annunciato una partnership con l'Internet Watch Foundation (IWF), segnalando un tentativo di contrastare i materiali illeciti di sfruttamento sessuale minorile condivisi sulla piattaforma.

L'organizzazione caritatevole identificherà e rimuoverà questi materiali, utilizzando i suoi strumenti di intelligenza artificiale all'avanguardia. Il CEO dell'IWF, Derek Ray-Hill, ha menzionato le grandi imprese che entrambe le aziende potrebbero realizzare insieme. “Non vediamo l'ora di vedere quali ulteriori passi possiamo fare insieme per creare un mondo in cui la diffusione di materiale di abuso sessuale online sia virtualmente impossibile,” ha detto.