Novos padrões da Austrália para combater o dano online

Em uma medida inovadora, a Comissária de Segurança Eletrônica da Austrália, Julie Inman Grant, apresentou padrões industriais de primeira no mundo, destinados a obrigar grandes empresas de tecnologia, incluindo Apple, Google e Meta, a tomar medidas mais substanciais para abordar os problemas generalizados de material de abuso sexual infantil online e conteúdo pró-terror em suas plataformas. Esses padrões também se estendem ao combate ao surgimento perturbador de pornografia infantil com "deepfakes" criada usando IA generativa.

Após mais de dois anos de esforços intensos e a rejeição de códigos rascunho propostos pela indústria de tecnologia, a Comissária Inman Grant lançou agora padrões rascunho que se aplicam a serviços de armazenamento em nuvem como Apple iCloud, Google Drive e Microsoft OneDrive, bem como plataformas de mensagens como WhatsApp. O objetivo é obrigar essas empresas a intensificar seus esforços para eliminar conteúdo ilegal de seus serviços.

Impacto global antecipado

A Comissária Inman Grant, que anteriormente ocupou uma posição executiva no Twitter, espera que esses padrões industriais australianos sirvam de precedente para regulamentações semelhantes em todo o mundo para abordar a questão pervasiva de conteúdo prejudicial. É importante notar que esses requisitos não obrigarão as empresas de tecnologia a comprometer sua própria criptografia de ponta a ponta, que é ativada por padrão em alguns serviços como o WhatsApp.

Embora as principais plataformas de tecnologia tenham políticas que proíbem material de abuso sexual infantil em seus serviços públicos, a Comissária Inman Grant argumenta que essas empresas não fizeram o suficiente para fiscalizar suas próprias plataformas. Ela esclareceu: "Entendemos as questões relacionadas à viabilidade técnica, e não estamos pedindo que façam nada que seja tecnicamente inviável. Mas também estamos dizendo que você não está isento da responsabilidade moral e legal de simplesmente apagar as luzes ou fechar a porta e fingir que esse abuso horrível não está acontecendo em suas plataformas."

Por exemplo, o WhatsApp, um serviço criptografado de ponta a ponta, emprega vários sinais comportamentais para detectar e reportar partes não criptografadas de seus serviços, incluindo nomes de perfil e de grupos de chat, bem como certos símbolos conhecidos por representar pornografia infantil, como "emojis de pizza com queijo". Essa abordagem proativa permite que o WhatsApp reporte 1,3 milhão de instâncias de exploração e abuso sexual infantil por ano.

Desafiando a pornografia infantil com deepfake

Os padrões rascunhos também estendem seu escopo ao material de abuso sexual infantil e propaganda terrorista gerados usando software de código aberto e IA generativa. Uma tendência alarmante na Austrália envolve estudantes criando "pornografia deepfake" de seus colegas e compartilhando-a em ambientes educacionais. A Comissária Inman Grant expressou sua preocupação, afirmando: "Estamos vendo material de abuso sexual infantil sintético sendo reportado através de nossas linhas diretas, e isso é particularmente preocupante para nossos colegas nas forças da lei, porque eles passam muito tempo fazendo a identificação de vítimas para que possam realmente salvar crianças que estão sendo abusadas."

Ela enfatizou a importância de incorporar a fiscalização regulatória na fase de design dessas tecnologias para garantir salvaguardas robustas, impedindo a proliferação de conteúdo prejudicial. De acordo com a Comissária Inman Grant, "Se não estivermos incorporando e testando a eficácia e robustez dessas barreiras na fase de design, uma vez que elas estejam no mercado e se replicando, estaremos apenas jogando um jogo provavelmente interminável e um tanto desesperador de mata-moscas."

Consulta pública e implementação

O escritório da Comissária de Segurança Eletrônica iniciou um período de consulta pública para os padrões rascunho, que durará 31 dias. Após esse período, as versões finais dos padrões serão apresentadas no parlamento federal e estão previstas para entrar em vigor seis meses após seu registro.

Os padrões não apenas exigem uma moderação de conteúdo mais rigorosa, mas também obrigam as empresas de tecnologia a alocar recursos e pessoal suficientes para os esforços de confiança e segurança. 

A Comissária Inman Grant afirmou: "Você não pode fazer moderação de conteúdo se não estiver investindo nesse pessoal, políticas, processos e tecnologias. E você não pode ter seu bolo e comê-lo também. Se você não estiver escaneando em busca de abuso sexual infantil e, em seguida, não fornecer nenhuma maneira para o público reportar a você quando se deparar com isso em seus serviços, então você está efetivamente fechando os olhos para cenas de crime ao vivo acontecendo em sua plataforma."

A introdução desses padrões segue um incidente recente envolvendo o gigante das redes sociais X, anteriormente conhecido como Twitter, que se recusou a pagar uma multa de $610.500 imposta pela Comissária de Segurança Eletrônica por supostamente não abordar adequadamente o material de exploração infantil em sua plataforma. O X apresentou um pedido de revisão judicial no Tribunal Federal. O escritório da Comissária Inman Grant continua a avaliar suas opções em relação à não conformidade da X Corp com o aviso de relatório, mas se abstém de comentar sobre os processos judiciais em andamento.

Em uma era em que a tecnologia amplificou a disseminação de conteúdo prejudicial, a iniciativa pioneira da Austrália de estabelecer padrões industriais abrangentes sinaliza um passo significativo para garantir a segurança dos espaços online, particularmente para crianças e indivíduos vulneráveis. À medida que esses padrões passam por consulta pública e eventual implementação, o mundo observará de perto para ver se outras nações seguem o exemplo da Austrália na luta contra a exploração infantil online e o conteúdo pró-terror.