Telegram ha eliminado cerca de 15 millones de grupos ilícitos en su plataforma de mensajería mediante inteligencia artificial (IA). En los últimos meses, la plataforma ha estado bajo una enorme presión para purgar su aplicación de mensajería de contenido ilícito. Esta presión condujo al arresto de su director ejecutivo, Pavel Durov, en Francia, donde enfrenta cargos por el contenido dañino e ilegal compartido en la aplicación.
Aunque Durov, quien ya tuvo su primer día en la corte, sigue bajo estrictas restricciones, la plataforma parece haber comenzado a trabajar. Según Telegram , ya ha eliminado más de 15,4 millones de grupos y canales ilícitos relacionados con fraude y otras actividades ilegales.
En su comunicado, Telegram destacó que la hazaña se logró utilizando herramientas de moderación de inteligencia artificial de vanguardia. La medida se produce después de que la plataforma anunciara medidas drásticas en septiembre, y Durov señaló que intentaban cumplir con las solicitudes del gobierno.
Telegram lanza una nueva página de moderación para monitorear los esfuerzos
La nueva página de moderación se ajusta a la política de transparencia de la compañía. Según una publicación en la página de Telegram de Durov, la compañía quiere que el público vea sus esfuerzos para combatir estas actividades ilícitas. Señaló que el equipo de moderación ha estado trabajando entre bastidores durante los últimos meses, eliminando el contenido que infringía sus términos y agradeciendo a los usuarios su ayuda para frenar esta amenaza.
Durov prometió traer actualizaciones periódicas que los usuarios podrán ver en tiempo real, mostrando cuánto trabajo está realizando el equipo de moderación.
Según la página de moderación, la plataforma ha implementado un mayor control de la aplicación de la ley tras el arresto de Durov. La página señala que la eliminación de cuentas ilegales está en vigor desde 2015. Actualmente, el número de grupos y canales ilegales bloqueados asciende a aproximadamente 15 474 022, cifra que corresponde únicamente a 2024.
Telegram también incrementó su ofensiva contra los materiales de abuso sexual infantil (CSAM) este año, prohibiendo un total de 703.809 grupos y canales.
Además de los reportes de usuarios y la labor proactiva del equipo de moderación, Telegram también reportó miles de casos de abuso sexual infantil procesados por organizaciones externas, lo que resultó en baneos inmediatos. Al desglosar la cifra, se destacan los cuatro grupos principales que proporcionaron más reportes, incluyendo la Fundación Internet Watch, el Centro Nacional para Niños Desaparecidos y Explotados, el Centro Canadiense para la Protección de la Infancia y Stitching Offlimits.
Desde 2016, Telegram ha combatido activamente la violencia y la propaganda terrorista mediante actualizaciones diarias sobre sus esfuerzos, reconocidos por Europol. La compañía señaló que ha colaborado con numerosas organizaciones en estos frentes desde 2022, bloqueando 100 millones de contenidos terroristas. En 2024, Telegram reveló haber bloqueado 129.099 contenidos relacionados con el terrorismo.
La continua restricción de Durov en medio de medidas para combatir materiales ilícitos
Durov seguirá bajo la atenta mirada de las autoridades francesas tras su primer día en el tribunal. El director ejecutivo de Telegram estuvo acompañado por su asesor legal, quien respondió a varias preguntas relacionadas con las actividades de la plataforma.
Aunque Durov se negó a hacer comentarios sobre el caso después de la sesión, manifestó su confianza en el sistema judicial francés y en su inocencia. Sin embargo, de ser declarado culpable, podría pasar hasta 10 años de prisión, además de una multa de 550.000 dólares.
Mientras tanto, Telegram anunció recientemente una asociación con la Internet Watch Foundation (IWF), lo que indica un intento de combatir los materiales ilícitos de explotación sexual infantil compartidos en la plataforma.
La organización benéfica identificará dent eliminará estos materiales mediante sus herramientas de inteligencia artificial de vanguardia. El director ejecutivo de IWF, Derek Ray-Hill, mencionó los grandes logros que ambas empresas podrían lograr juntas. " Esperamos con interés ver qué otras medidas podemos tomar juntos para crear un mundo donde la difusión de material de abuso sexual en línea sea prácticamente imposible ", afirmó.
