Discord desbloquea a 8.000 usuarios después de que la IA marcara erróneamente imágenes inofensivas
- Discord ha restablecido todas las cuentas afectadas después de que un fallo en el sistema de moderación de IA baneara a más de 8.000 usuarios desde mayo.
- Las prohibiciones eran permanentes y no pasaron por revisión humana.
- Este caso se suma a una serie de fallos en la moderación automatizada en Instagram, Facebook y Tumblr.
Discord ha reactivado más de 8000 cuentas que había bloqueado pordent. Un fallo en su sistema de moderación automatizada marcó erróneamente como ilegales archivos subidos inofensivos. El sistema detectó hojas de cálculo, tableros de ajedrez y texturas de juegos. Los bloqueos fueron permanentes y se realizaron sin aprobación humana.
En un hilo publicado por su cuenta de soporte en X el 7 de julio de 2026, Discord detalló los errores que se produjeron.
Los usuarios habían estado experimentando problemas desde mayo. El equipo de Discord logródentel problema y distribuir una solución después de que se detectaran aproximadamente 200 cuentas adicionales durante el fin de semana. La compañía ha anunciado que todas las cuentas afectadas están siendo reactivadas.
Comparación de similitudes entre hojas de cálculo y cuadrículas
Cada archivo subido se compara con bases de datos de contenido que ya han sidodentcomo peligrosos por las herramientas de seguridad de Discord. La empresa reconoce que la coincidencia de similitudes, base de dicha comparación, puede fallar y generar falsos positivos.
En teoría, antes de que se penalice una cuenta, un miembro del equipo de Confianza y Seguridad debería revisar todo aquello que el sistema señale como sospechoso.
Ese paso fue eliminado por el error. El sistema bloqueó las cuentas por completo en lugar de enviar las cargas dudosas a un revisor. Las fotos simples activaban el filtro, lo que resultaba en suspensiones instantáneas. Además de las hojas de cálculo y los tableros de ajedrez, también se detectaron fondos blancos y grises transparentes.
Antes de que Discord diera una explicación, el problema apareció en X y Reddit. Publicar imágenes con patrones de cuadrícula cuadrada fue la única razón por la que la gente reportó la pérdida de sus cuentas.
Varios usuarios plantearon una teoría. El modelo de detección podría haberse vuelto inestable ante cualquier cosa que se pareciera a una cuadrícula, ya que este tipo de diseños se han utilizado anteriormente para ocultar contenido inapropiado y de explotación infantil de los escáneres automatizados.
“…Deberíamos haberlo detectado antes. Estamos trabajando en mejores medidas de seguridad para que esto no vuelva a suceder”, escribió Discord en su hilo X.
Este fin de semana, nuestros sistemas de seguridad se activaron incorrectamente y bloquearon alrededor de 200 cuentas. Todas las cuentas afectadas han sido restablecidas.
Esto es lo que pasó. Un hilo 🧵 https://t.co/wXH32iiv8I
— Soporte de Discord (@discord_support) 7 de julio de 2026
Las mismas prohibiciones afectaron a Meta y Tumblr
El 4 de julio, un director de videojuegos conocido como JDBRYANT afirmó que su cuenta fue eliminada porque el sistema de moderación automática interpretó las texturas de su juego como representaciones de abuso sexual infantil.
El canal que utiliza para todas sus comunicaciones laborales fue interrumpido por la prohibición. Afirmó haber presentado una solicitud para que se revise la suspensión.
Otro usuario fue más allá. «…Esta vulnerabilidad debe corregirse de inmediato y deben revocarse todas las prohibiciones injustas. Perder una cuenta de Discord por algo tan injusto puede ser devastador y afectar gravemente a los usuarios, y cada día millones de usuarios se ven afectados por prohibiciones injustas de IA. Esto debe terminar», escribió en X.
Discord cuenta con más de 200 millones de usuarios únicos al mes, según las propias estadísticas de la compañía, Cryptopolitan citadas por en febrero.
El año pasado, usuarios de Instagram y de grupos de Facebook también reportaron oleadas de suspensiones inexplicables, atribuidas en gran medida a la moderación automatizada, aunque Meta nunca confirmó si se debían a errores de IA. Desde entonces, el Consejo de Supervisión de Meta ha presionado a la empresa para que sea más transparente.
Tumblr recibió quejas similares sobre suspensiones masivas sin motivo aparente.
Discord dedicó los primeros meses de 2026 a implementar la verificación de edad a nivel mundial y la configuración de "adolescente por defecto", enmarcando los cambios en torno a la protección infantil, como informó Cryptopolitan en febrero.
Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!
Preguntas frecuentes
¿Cuántos usuarios de Discord fueron baneados injustamente y fueron readmitidos?
Más de 8.000 cuentas fueron bloqueadas por error a partir de mayo de 2026, y Discord afirma que todas las cuentas afectadas están siendo restauradas.
¿Qué tipo de imágenes provocaron las prohibiciones injustificadas?
Las cargas inofensivas, como hojas de cálculo, tableros de ajedrez, texturas de juegos y fondos transparentes blancos y grises, fueron marcadas como dañinas.
¿Por qué se produjeron las prohibiciones sin revisión humana?
El sistema de Discord está diseñado para que un miembro del equipo de Confianza y Seguridad revise el contenido marcado antes de tomar cualquier medida, pero un error provocó que el sistema bloqueara las cuentas afectadas de inmediato.
Randa Moisés
Randa Moses es editora y reportera en Cryptopolitan donde cubre temas de tecnología, IA, robótica, criptomonedas, estafas y hackeos. Trabaja en el sector de las criptomonedas desde 2017 y ha ocupado cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa es ingeniera eléctrica ytronpor la Universidad de Bradford.
