Le autorità sudcoreane indagano su Telegram per contenuti deepfake

Le autorità sudcoreane hanno avviato un'indagine sulla piattaforma di messaggistica Telegram per valutare se abbia avuto un ruolo nella distribuzione di contenuti deepfake sessualmente espliciti.

Il rapporto di Reuters del 2 settembre segna un'impennata negli sforzi del governo per combattere lo sfruttamento sessuale attraverso le piattaforme digitali. Ciò è dovuto alla crescente incidenza di deepfake che prendono di mira le donne sudcoreane.

L'indagine, come riportato, è la prima volta che le forze dell'ordine sudcoreane intraprendono un'azione legale contro Telegram. Le accuse contro la piattaforma includono il favoreggiamento di reati sessuali attraverso la diffusione di contenuti deepfake.

Aumento dei casi di pornografia deepfake tra i giovani sudcoreani

L'indagine si concentra su otto bot nell'app Telegram che creano e diffondono falsi contenuti per adulti. Dall'inizio dell'indagine, a fine agosto, sono state presentate 88 denunce e sono stati identificati 24 sospettati per la distribuzione di deepfake.

La pornografia deepfake è diventata una preoccupazione significativa negli ultimi tempi, con un numero sempre maggiore di casi segnalati. La polizia sudcoreana ha registrato 297 reati sessuali deepfake solo quest'anno, rispetto ai 156 casi dell'anno precedente. È allarmante che sia le vittime che gli autori siano solitamente adolescenti, il che suggerisce che questo problema sia diffuso tra i giovani. 

La Corea del Sud è diventata il Paese più colpito al mondo dalla pornografia deepfake. Secondo Security Hero, un'azienda statunitense specializzata nella protezione contro il furto dident, il 53% delle vittime della pornografia deepfake sono cantanti e attrici sudcoreane. 

Il governo annuncia una nuova legislazione per limitare i deepfake espliciti

A causa del crescente rischio, il governo sudcoreano ha recentemente annunciato l'emanazione di una nuova legislazione per impedire la produzione e la diffusione di deepfake sessualmente espliciti. La Commissione per le Comunicazioni della Corea ha inoltre esortato le aziende di social media a intensificare ulteriormente la rimozione e il blocco di tali contenuti. 

Allo stesso tempo, le autorità sudcoreane hanno chiesto aiuto alle loro controparti francesi per gestire Telegram e migliorare la comunicazione diretta con l'azienda. Il capo dell'Agenzia nazionale per le politiche sudcoreana, Cho Ji-ho, ha dichiarato che l'agenzia prevede di controllare le app di messaggistica come Telegram per possibili collegamenti con attività criminali. 

Telegram sotto esame internazionale

Telegram è stata accusata in passato di aver consentito contenuti vietati, e questo è un caso simile. Pavel Durov, il fondatore della piattaforma, è accusato di diverse accuse in Francia ed è attualmente sotto inchiesta. La polizia francese sta indagando sulla possibilità che la piattaforma abbia qualche legame con la criminalità organizzata.

Pochi giorni dopo il suo arresto in Francia, si è saputo che il governo indiano stava indagando su Telegram per legami con la criminalità. Ciò ha aumentato la pressione su Telegram affinché affronti le preoccupazioni sollevate dal governo sudcoreano. 

Telegram ha dichiarato di moderare i contenuti e rimuovere quelli proibiti, tra cui la pornografia infantile. Tuttavia, la capacità dell'azienda di farlo è stata messa in dubbio. L'azienda ha negato le accuse nei confronti di Durov, affermando che è irragionevole ritenere il proprietario della piattaforma responsabile delle azioni degli utenti.