Telegram supprime 15 millions de groupes illicites avec l'IA

Telegram a supprimé environ 15 millions de groupes illicites sur sa plateforme de messagerie en utilisant l'intelligence artificielle (IA). Au cours des derniers mois, la plateforme a été sous une pression immense pour purger son application de messagerie de tout contenu illicite. Cette pression a conduit à l'arrestation de son PDG, Pavel Durov, en France, où il fait face à des accusations liées au contenu préjudiciable et illégal partagé sur l'application.

Alors que Durov, qui a eu sa première journée au tribunal, est toujours sous stricte restriction, la plateforme semble s'être mise au travail. Selon Telegram, elle a désormais supprimé plus de 15,4 millions de groupes et de canaux illicites liés à la fraude et à d'autres activités illégales.

Dans son communiqué, Telegram a souligné que cet exploit a été réalisé à l'aide d'outils de modération par intelligence artificielle de pointe. Cette mesure intervient après que la plateforme a annoncé une répression en septembre, Durov notant qu'ils essayaient de se conformer aux demandes des gouvernements.

Telegram lance une nouvelle page de modération pour surveiller les efforts

La nouvelle page de modération s'aligne sur la politique de transparence de l'entreprise dans ses relations. Selon un post sur la page Telegram de Durov, l'entreprise souhaite que le public voie ses efforts pour combattre ces activités illicites. Il a noté que l'équipe de modération a travaillé dans l'ombre au cours des derniers mois, supprimant les contenus qui violaient ses conditions, et a remercié les utilisateurs pour leur aide dans la lutte contre ce fléau.

Durov a promis de fournir des mises à jour régulières que les utilisateurs peuvent voir en temps réel, montrant combien de travail l'équipe de modération accomplit.

Selon la page de modération, la plateforme a enregistré un taux d'application plus élevé après l'arrestation de Durov. La page note que la suppression des comptes illicites est en vigueur depuis 2015. Les groupes et canaux illégaux bloqués s'élèvent actuellement à environ 15 474 022, représentant le chiffre uniquement pour 2024.

Telegram a également intensifié sa répression sur les matériaux d'abus sexuel sur mineurs (CSAM) cette année, bannissant un total de 703 809 groupes et canaux.

Outre les signalements des utilisateurs et le travail proactif de l'équipe de modération, Telegram a également signalé des milliers d'instances traitées via des organisations tierces contre les CSAM, conduisant à des bannissements instantanés. En détaillant le chiffre, il met en évidence les quatre principaux groupes qui ont fourni le plus de rapports, y compris l'Internet Watch Foundation, le National Center for Missing and Exploited Child, le Canadian Center for Child Protection et Stitching Offlimits.

Depuis 2016, Telegram combat activement la violence et la propagande terroriste en fournissant des mises à jour quotidiennes sur ses efforts, qui ont été reconnus par Europol. L'entreprise a noté qu'elle a travaillé avec de nombreuses organisations sur ces fronts depuis 2022, bannissant 100 millions de contenus terroristes. En 2024, Telegram a révélé avoir bloqué 129 099 contenus liés au terrorisme.

La restriction continue de Durov au milieu des mouvements pour combattre les matériaux illicites

Durov continuera d'être sous les yeux vigilants des autorités françaises après sa première journée au tribunal. Le PDG de Telegram était accompagné de son conseil juridique, répondant à plusieurs questions relatives aux activités de la plateforme.

Bien que Durov ait refusé de commenter l'affaire après la séance, il a exprimé sa croyance en la justice française et son innocence. Cependant, s'il est reconnu coupable, il pourrait passer jusqu'à 10 ans en prison, en plus d'une amende de 550 000 dollars.

Pendant ce temps, Telegram a récemment annoncé un partenariat avec l'Internet Watch Foundation (IWF), signalant une tentative de combattre les matériaux illicites d'exploitation sexuelle des enfants partagés sur la plateforme.

L'association identifiera et supprimera ces matériaux en utilisant ses outils d'intelligence artificielle de pointe. Le PDG de l'IWF, Derek Ray-Hill, a mentionné les grands exploits que les deux entreprises pourraient réaliser ensemble. « Nous sommes impatients de voir quelles autres mesures nous pouvons prendre ensemble pour créer un monde dans lequel la propagation des matériaux d'abus sexuel en ligne est pratiquement impossible », a-t-il déclaré.