Les autorités sud-coréennes enquêtent sur Telegram pour du contenu deepfake

Les autorités sud-coréennes ont lancé une enquête sur la plateforme de messagerie Telegram pour évaluer si elle a joué un rôle dans la distribution de contenu deepfake sexuellement explicite.

Le rapport de Reuters du 2 septembre marque une intensification des efforts du gouvernement pour lutter contre l'exploitation sexuelle via les plateformes numériques. Cela est dû à la hausse des cas de deepfakes ciblant les femmes sud-coréennes.

L'enquête, comme rapporté, est la première fois que les forces de l'ordre sud-coréennes intentent une action en justice contre Telegram. Les allégations contre la plateforme incluent la facilitation de crimes sexuels par la diffusion de contenu deepfake.

Les cas de pornographie deepfake augmentent parmi les jeunes Sud-Coréens

L'enquête se concentre sur huit bots dans l'application Telegram qui créent et diffusent du contenu adulte factice. Depuis le début de l'enquête fin août, 88 plaintes ont été déposées et 24 suspects ont été identifiés dans la distribution de deepfakes.

La pornographie deepfake est devenue une préoccupation majeure ces derniers temps, avec de plus en plus de cas signalés. La police sud-coréenne a enregistré 297 crimes sexuels impliquant des deepfakes rien que cette année, contre 156 cas l'année précédente. De manière alarmante, les victimes et les auteurs sont généralement des adolescents, ce qui suggère que ce problème est répandu parmi la jeunesse. 

La Corée du Sud est devenue le pays le plus touché par la pornographie deepfake au monde. Selon Security Hero, une entreprise américaine de protection contre le vol d'identité, 53% des victimes de pornographie deepfake sont des chanteuses et actrices sud-coréennes. 

Le gouvernement annonce une nouvelle législation pour enrayer les deepfakes explicites

Face à ce risque croissant, le gouvernement sud-coréen a récemment annoncé qu'une nouvelle législation serait adoptée pour empêcher la production et la diffusion de deepfakes sexuellement explicites. La Commission coréenne des communications a également exhorté les entreprises de médias sociaux à intensifier leurs efforts de suppression et de blocage de ce type de contenu. 

Dans le même temps, les autorités sud-coréennes ont demandé de l'aide à leurs homologues français pour traiter le cas de Telegram et améliorer la communication directe avec l'entreprise. Le chef de l'Agence des politiques nationales sud-coréenne, Cho Ji-ho, a déclaré que l'agence prévoit d'examiner les applications de messagerie telles que Telegram pour détecter d'éventuels liens avec la criminalité. 

Telegram fait face à un examen international

Telegram a été accusé par le passé d'autoriser du contenu interdit, et il s'agit d'un cas similaire. Pavel Durov, le fondateur de la plateforme, fait face à plusieurs accusations en France et est actuellement sous enquête. La police française examine la possibilité que la plateforme ait des liens avec la criminalité organisée.

Quelques jours après son arrestation en France, il est devenu connu que le gouvernement indien enquêtait sur Telegram pour des liens avec la criminalité. Cela a exercé une pression supplémentaire sur Telegram pour qu'il réponde aux préoccupations soulevées par le gouvernement sud-coréen. 

Telegram a déclaré qu'il modère le contenu et supprime le contenu interdit, y compris la pédopornographie. Cependant, la capacité de l'entreprise à le faire a été mise en doute. L'entreprise a nié les allégations envers Durov, affirmant qu'il est déraisonnable de tenir le propriétaire de la plateforme responsable des actions des utilisateurs.