- El Comisionado de eSeguridad de Australia, Julie Inman Grant, ha presentado estándares industriales pioneros a nivel mundial destinados a obligar a las principales empresas tecnológicas.
- Los estándares industriales de Australia servirán como precedente para regulaciones similares en todo el mundo que aborden la problemática pervasiva del contenido dañino.
- La oficina del Comisionado de eSeguridad ha iniciado un período de consulta pública para los proyectos de normas.
En un movimiento innovador, la Comisionada de Seguridad Electrónica de Australia, Julie Inman Grant, ha presentado estándares industriales de primeriza en el mundo destinados a obligar a las principales empresas tecnológicas, incluyendo Apple, Google y Meta, a tomar medidas más sustanciales para abordar los problemas generalizados de material de abuso sexual infantil en línea y contenido pro-terrorista en sus plataformas. Estos estándares también se extienden para combatir la inquietante aparición de pornografía infantil «deepfake» creada utilizando IA generativa.
Después de más de dos años de esfuerzos intensos y el rechazo de códigos borrador propuestos por la industria tecnológica, la Comisionada Inman Grant ha publicado ahora estándares borrador que se aplican a servicios de almacenamiento en la nube como Apple iCloud, Google Drive y Microsoft OneDrive, así como a plataformas de mensajería como WhatsApp. El objetivo es obligar a estas empresas a intensificar sus esfuerzos para eliminar el contenido ilegal de sus servicios.
Impacto global previsto
La Comisionada Inman Grant, quien anteriormente ocupó un cargo ejecutivo en Twitter, espera que estos estándares industriales australianos sirvan como precedente para regulaciones similares en todo el mundo para abordar el problema generalizado del contenido dañino. Es importante tener en cuenta que estos requisitos no obligarán a las empresas tecnológicas a comprometer su propio cifrado de extremo a extremo, que está habilitado de forma predeterminada en algunos servicios como WhatsApp.
Si bien las principales plataformas tecnológicas tienen políticas que prohíben el material de abuso sexual infantil en sus servicios públicos, la Comisionada Inman Grant sostiene que estas empresas no han hecho lo suficiente para vigilar sus propias plataformas. Aclaró: «Entendemos los problemas relacionados con la viabilidad técnica, y no les pedimos que hagan nada que sea técnicamente inviable. Pero también estamos diciendo que no están exentos de la responsabilidad moral y legal de simplemente apagar las luces o cerrar la puerta y fingir que este horroroso abuso no está ocurriendo en sus plataformas».
Por ejemplo, WhatsApp, un servicio cifrado de extremo a extremo, emplea varias señales conductuales para detectar y reportar las partes no cifradas de sus servicios, incluidos los nombres de perfiles y chats grupales, así como ciertos símbolos conocidos por representar pornografía infantil, como los «emojis de pizza con queso». Este enfoque proactivo permite a WhatsApp reportar 1,3 millones de casos de explotación y abuso sexual infantil cada año.
Desafiar la pornografía infantil deepfake
Los estándares borrador también extienden su ámbito de aplicación al material de abuso sexual infantil y la propaganda terrorista generada utilizando software de código abierto e IA generativa. Una tendencia alarmante en Australia implica que estudiantes crean «pornografía deepfake» de sus compañeros y la comparten en entornos educativos. La Comisionada Inman Grant expresó su preocupación, afirmando: «Estamos viendo que se reportan material de abuso sexual infantil sintético a través de nuestras líneas de ayuda, y eso es particularmente preocupante para nuestros colegas en las fuerzas del orden, porque pasan mucho tiempo identificando a las víctimas para que puedan realmente salvar a los niños que están siendo abusados».
Hizo hincapié en la importancia de incorporar el escrutinio regulatorio en la fase de diseño de estas tecnologías para garantizar salvaguardas robustas, evitando la proliferación de contenido dañino. Según la Comisionada Inman Grant, «Si no estamos incorporando y probando la eficacia y robustez de estas barreras de protección en la fase de diseño, una vez que estén en el mundo real y se estén replicando, solo estaremos jugando probablemente un juego interminable y algo desesperado de matar topos».
Consulta pública e implementación
La oficina del Comisionado de Seguridad Electrónica ha iniciado un período de consulta pública para los estándares borrador, que durará 31 días. Después de este período, las versiones finales de los estándares se presentarán en el parlamento federal y entrarán en vigor seis meses después de su registro.
Los estándares no solo exigen una moderación de contenido más estricta, sino que también requieren que las empresas tecnológicas asignen recursos y personal suficientes a los esfuerzos de confianza y seguridad.
La Comisionada Inman Grant declaró: «No puedes hacer una moderación de contenido si no inviertes en ese personal, políticas, procesos y tecnologías. Y no puedes tener tu pastel y comerlo también. Si no escaneas en busca de abuso sexual infantil pero luego no proporcionas ninguna forma para que el público te reporte cuando se encuentre con ello en tus servicios, entonces estás efectivamente haciendo la vista gorda ante escenas del crimen en vivo que ocurren en tu plataforma».
La introducción de estos estándares sigue a un incidente reciente que involucró al gigante de las redes sociales X, anteriormente conocido como Twitter, que se negó a pagar una multa de $610.500 impuesta por el Comisionado de Seguridad Electrónica por supuestamente no abordar adecuadamente el material de explotación infantil en su plataforma. X ha presentado una solicitud de revisión judicial en el Tribunal Federal. La oficina de la Comisionada Inman Grant continúa evaluando sus opciones con respecto al incumplimiento de X Corp con el aviso de informe, pero se abstiene de comentar sobre los procedimientos legales en curso.
En una era en la que la tecnología ha amplificado la difusión de contenido dañino, el movimiento pionero de Australia para establecer estándares industriales integrales señala un paso significativo hacia la garantía de la seguridad de los espacios en línea, particularmente para niños y personas vulnerables. A medida que estos estándares pasan por la consulta pública y su eventual implementación, el mundo observará de cerca si otras naciones siguen el ejemplo de Australia en la lucha contra la explotación infantil en línea y el contenido pro-terrorista.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brian Koome
Brian Koome cuenta con más de siete años de experiencia en la cobertura de blockchain y criptomonedas, habiendo estado activo en el sector desde 2017. Ha colaborado con publicaciones líderes, entre ellas BlockToday.com. Además, desarrolló el curso Ethereum 101 para BitDegree.org antes de unirse a Cryptopolitan como escritor a tiempo completo. Brian cubre guías perennes (EGs), análisis profundos, entrevistas y análisis de precios. Su enfoque en DeFi, innovación en blockchain y proyectos emergentes de criptomonedas deleita a los lectores.
