Autoridades sul-coreanas investigam o Telegram por conteúdo deepfake

As autoridades sul-coreanas iniciaram uma investigação sobre a plataforma de mensagens Telegram para avaliar se ela desempenhou algum papel na distribuição de conteúdo deepfake de teor sexual explícito.

A reportagem da Reuters, publicada em 2 de setembro, destaca um aumento nos esforços do governo para combater a exploração sexual por meio de plataformas digitais. Isso se deve ao crescente número de deepfakes direcionados a mulheres sul-coreanas.

Conforme noticiado , esta é a primeira vez que as autoridades policiais sul-coreanas tomam medidas legais contra o Telegram. As acusações contra a plataforma incluem a facilitação de crimes sexuais através da disseminação de conteúdo deepfake.

Casos de pornografia deepfake aumentam entre jovens sul-coreanos

A investigação centra-se em oito bots no aplicativo Telegram que criam e disseminam conteúdo adulto falso. Desde o início da investigação, no final de agosto, foram registradas 88 denúncias e 24 suspeitos foram identificados na distribuição de deepfakes.

A pornografia deepfake tornou-se uma preocupação significativa nos últimos tempos, com o aumento do número de casos relatados. A polícia sul-coreana registrou 297 crimes sexuais envolvendo deepfake somente este ano, em comparação com 156 casos no ano anterior. Alarmantemente, tanto as vítimas quanto os agressores são geralmente adolescentes, o que sugere que esse problema é generalizado entre os jovens. 

A Coreia do Sul tornou-se o país mais afetado pela pornografia deepfake em todo o mundo. De acordo com a Security Hero, uma empresa americana de proteção contra roubo dedent, 53% das vítimas de pornografia deepfake são cantoras e atrizes sul-coreanas. 

Governo anuncia nova legislação para coibir deepfakes explícitos

Devido ao crescente risco, o governo sul-coreano anunciou recentemente a promulgação de novas leis para impedir a produção e disseminação de deepfakes com conteúdo sexual explícito. A Comissão de Comunicações da Coreia também instou as empresas de redes sociais a intensificarem a remoção e o bloqueio desse tipo de conteúdo. 

Ao mesmo tempo, as autoridades sul-coreanas solicitaram ajuda de seus homólogos franceses para lidar com o Telegram e aprimorar a comunicação direta com a empresa. O chefe da Agência Nacional de Políticas da Coreia do Sul, Cho Ji-ho, afirmou que a agência planeja verificar aplicativos de mensagens como o Telegram em busca de possíveis ligações com o crime. 

Telegram enfrenta escrutínio internacional

O Telegram já foi acusado de permitir conteúdo proibido no passado, e este é um caso semelhante. Pavel Durov, fundador da plataforma, enfrenta diversas acusações na França e está sob investigação. A polícia francesa apura a possibilidade de a plataforma ter alguma ligação com o crime organizado.

Poucos dias após sua prisão na França, tornou-se público que o governo indiano estava investigando o Telegram por supostos vínculos com atividades criminosas. Isso aumentou a pressão sobre o Telegram para que respondesse às preocupações levantadas pelo governo sul-coreano. 

O Telegram afirmou que modera conteúdo e remove material proibido, incluindo pornografia infantil. No entanto, a capacidade da empresa de fazer isso tem sido questionada. A empresa negou as acusações contra Durov, afirmando que é irrazoável responsabilizar o proprietário da plataforma pelas ações dos usuários.