Nuevas normas de Australia para combatir los daños en línea

En una iniciativa pionera, la Comisionada de Seguridad en Internet de Australia, Julie Inman Grant, ha presentado estándares industriales sin precedentes a nivel mundial, cuyo objetivo es obligar a las principales empresas tecnológicas, como Apple, Google y Meta, a tomar medidas más contundentes para abordar el problema generalizado del material de abuso sexual infantil en línea y el contenido que promueve el terrorismo en sus plataformas. Estos estándares también abarcan la lucha contra la inquietante proliferación de pornografía infantil "deepfake", creada mediante inteligencia artificial generativa. 

Tras más de dos años de intensos esfuerzos y el rechazo de los borradores de códigos propuestos por la industria tecnológica, el Comisionado Inman Grant ha publicado un borrador de normas que se aplican a servicios de almacenamiento en la nube como Apple iCloud, Google Drive y Microsoft OneDrive, así como a plataformas de mensajería como WhatsApp. El objetivo es obligar a estas empresas a intensificar sus esfuerzos para eliminar el contenido ilícito de sus servicios.

Impacto global anticipado

El comisionado Inman Grant, quien anteriormente ocupó un puesto ejecutivo en Twitter, espera que estas normas australianas de la industria sirvan dedent para regulaciones similares en todo el mundo que aborden el problema generalizado del contenido dañino. Es importante destacar que estos requisitos no obligarán a las empresas tecnológicas a comprometer su propio cifrado de extremo a extremo, que está habilitado por defecto en algunos servicios como WhatsApp.

Si bien las principales plataformas tecnológicas tienen políticas que prohíben el material de abuso sexual infantil en sus servicios públicos, la comisionada Inman Grant sostiene que estas empresas no han hecho lo suficiente para supervisar sus propias plataformas. Aclaró: «Entendemos los problemas de viabilidad técnica y no les pedimos que hagan nada que sea técnicamente inviable. Pero también les decimos que no están exentos de la responsabilidad moral y legal de simplemente apagar las luces o cerrar la puerta y fingir que este horrible abuso no está ocurriendo en sus plataformas»

Por ejemplo, WhatsApp, un servicio con cifrado de extremo a extremo, emplea diversas señales de comportamiento para detectar y denunciar partes no cifradas de sus servicios, como los nombres de perfil y de grupo de chat, así como ciertos símbolos conocidos por representar pornografía infantil, como los emojis de pizza con queso. Este enfoque proactivo permite a WhatsApp denunciar 1,3 millones de casos de explotación y abuso sexual infantil cada año.

Desafiando la pornografía infantil deepfake

Las normas redactadas también amplían su ámbito de aplicación al material de abuso sexual infantil y la propaganda terrorista generada mediante software de código abierto e inteligencia artificial generativa. Una tendencia alarmante en Australia consiste en que losdentcrean "pornografía ultrafalsa" de sus compañeros y la comparten en entornos educativos. La comisionada Inman Grant expresó su preocupación: "Estamos viendo denuncias de material sintético de abuso sexual infantil a través de nuestras líneas directas, y esto preocupa especialmente a nuestros colegas de las fuerzas del orden, ya que dedican mucho tiempo adentde víctimas para poder salvar a los niños que sufren abuso"

Hizo hincapié en la importancia de incorporar el escrutinio regulatorio en la fase de diseño de estas tecnologías para garantizar salvaguardias sólidas y prevenir la proliferación de contenido dañino. Según el comisionado Inman Grant, «Si no incorporamos y probamos la eficacia y la solidez de estas medidas de protección en la fase de diseño, una vez que se implementen y se repliquen, estaremos jugando a un juego interminable y prácticamente inútil de atrapar topos».

Consulta pública e implementación

La oficina del Comisionado de Seguridad Electrónica ha iniciado un período de consulta pública para los proyectos de normas, que tendrá una duración de 31 días. Tras este período, las versiones finales de las normas se presentarán ante el parlamento federal y entrarán en vigor seis meses después de su registro.

Los estándares no solo exigen una moderación de contenido más estricta, sino que también requieren que las empresas tecnológicas asignen suficientes recursos y personal a las iniciativas de confianza y seguridad. 

El comisionado Inman Grant declaró: «No se puede moderar contenido si no se invierte en personal, políticas, procesos y tecnologías. Y no se puede tener todo a la cake . Si no se busca abuso sexual infantil, pero no se ofrece al público la posibilidad de denunciarlo cuando lo encuentra en los servicios, se está haciendo la vista gorda ante las escenas de crimen en vivo que ocurren en la plataforma»

La introducción de estas normas surge tras undent reciente que involucró al gigante de las redes sociales X, anteriormente conocido como Twitter, que se negó a pagar una multa de 610.500 dólares impuesta por el Comisionado de Seguridad Electrónica por supuestamente no abordar adecuadamente el material de explotación infantil en su plataforma. X ha presentado una solicitud de revisión judicial ante el Tribunal Federal. La oficina del Comisionado Inman Grant continúa evaluando sus opciones con respecto al incumplimiento de la notificación por parte de X Corp, pero se abstiene de comentar sobre los procedimientos legales en curso.

En una era donde la tecnología ha amplificado la difusión de contenido dañino, la iniciativa pionera de Australia para establecer estándares integrales de la industria representa un paso significativo para garantizar la seguridad de los espacios en línea, especialmente para niños y personas vulnerables. A medida que estos estándares se sometan a consulta pública y su eventual implementación, el mundo observará de cerca si otras naciones siguen el ejemplo de Australia en la lucha contra la explotación infantil en línea y el contenido que promueve el terrorismo.