Les autorités sud-coréennes enquêtent sur Telegram concernant des contenus deepfake

Les autorités sud-coréennes ont ouvert une enquête sur la plateforme de messagerie Telegram afin de déterminer si elle a joué un rôle dans la diffusion de contenus deepfake à caractère sexuellement explicite.

Le rapport de Reuters du 2 septembre souligne l'intensification des efforts du gouvernement pour lutter contre l'exploitation sexuelle via les plateformes numériques. Cette intensification est due à la recrudescence des cas de deepfakes ciblant les femmes sud-coréennes.

Cette enquête, selon les informations disponibles, est la première fois que les autorités sud-coréennes engagent des poursuites judiciaires contre Telegram. La plateforme est notamment accusée d'avoir facilité des crimes sexuels par la diffusion de contenus truqués (deepfakes).

Les cas de pornographie deepfake augmentent chez les jeunes Sud-Coréens

L'enquête porte sur huit bots de l'application Telegram qui créent et diffusent de faux contenus pour adultes. Depuis son ouverture fin août, 88 plaintes ont été déposées et 24 suspects ont été identifiés dans le cadre de la diffusion de deepfakes.

La pornographie truquée (deepfake) est devenue une préoccupation majeure ces derniers temps, avec une augmentation constante des cas signalés. La police sud-coréenne a enregistré 297 crimes sexuels liés à la diffusion de deepfakes cette année seulement, contre 156 l'année précédente. De manière alarmante, les victimes comme les auteurs sont généralement des adolescents, ce qui laisse penser que ce problème est très répandu chez les jeunes. 

La Corée du Sud est devenue le pays le plus touché au monde par la pornographie truquée (deepfake). Selon Security Hero, une entreprise américainedentdans la protection contre l'usurpation d'identité, 53 % des victimes de ce fléau sont des chanteuses et actrices sud-coréennes. 

Le gouvernement annonce une nouvelle législation pour lutter contre les deepfakes explicites

Face à ce risque croissant, le gouvernement sud-coréen a récemment annoncé l'adoption d'une nouvelle loi visant à empêcher la production et la diffusion de deepfakes à caractère sexuellement explicite. La Commission coréenne des communications a également exhorté les plateformes de médias sociaux à renforcer leurs efforts de suppression et de blocage de ces contenus. 

Dans le même temps, les autorités sud-coréennes ont sollicité l'aide de leurs homologues français pour gérer la situation avec Telegram et renforcer la communication directe avec l'entreprise. Le directeur de l'Agence nationale de politique sud-coréenne, Cho Ji-ho, a déclaré que l'agence prévoyait d'examiner les applications de messagerie telles que Telegram afin de déceler d'éventuels liens avec la criminalité. 

Telegram fait l'objet d'un examen international

Telegram a déjà été accusé d'avoir autorisé la diffusion de contenus interdits, et le cas présent ne fait pas exception. Pavel Durov, le fondateur de la plateforme, est poursuivi pour plusieurs chefs d'accusation en France et fait actuellement l'objet d'une enquête. La police française examine la possibilité d'un lien entre la plateforme et le crime organisé.

Quelques jours après son arrestation en France, on a appris que le gouvernement indien enquêtait sur Telegram pour des liens présumés avec des activités criminelles. Cette révélation a accru la pression sur Telegram pour qu'elle réponde aux préoccupations soulevées par le gouvernement sud-coréen. 

Telegram affirme modérer les contenus et supprimer les contenus interdits, notamment la pornographie infantile. Cependant, sa capacité à le faire est mise en doute. L'entreprise a nié les allégations portées contre Durov, affirmant qu'il est déraisonnable de tenir le propriétaire de la plateforme responsable des agissements de ses utilisateurs.