Novas normas australianas para combater os danos online

Em uma iniciativa inovadora, a Comissária de Segurança Online da Austrália, Julie Inman Grant, apresentou padrões inéditos no mundo, com o objetivo de obrigar as principais empresas de tecnologia, incluindo Apple, Google e Meta, a tomarem medidas mais substanciais para combater os problemas generalizados de material de abuso sexual infantil e conteúdo pró-terrorismo em suas plataformas. Esses padrões também abrangem o combate ao preocupante surgimento de pornografia infantil "deepfake", criada com inteligência artificial generativa. 

Após mais de dois anos de intensos esforços e da rejeição de propostas de normas apresentadas pela indústria de tecnologia, o Comissário Inman Grant divulgou agora uma minuta de padrões aplicáveis ​​a serviços de armazenamento em nuvem como Apple iCloud, Google Drive e Microsoft OneDrive, bem como a plataformas de mensagens como o WhatsApp. O objetivo é compelir essas empresas a intensificarem seus esforços para eliminar conteúdo ilegal de seus serviços.

Impacto global previsto

O Comissário Inman Grant, que anteriormente ocupou um cargo executivo no Twitter, espera que esses padrões da indústria australiana sirvam dedent para regulamentações semelhantes em todo o mundo, a fim de lidar com o problema generalizado de conteúdo prejudicial. É importante observar que esses requisitos não obrigarão as empresas de tecnologia a comprometer sua própria criptografia de ponta a ponta, que é ativada por padrão em alguns serviços, como o WhatsApp.

Embora as principais plataformas de tecnologia tenham políticas que proíbem material de abuso sexual infantil em seus serviços públicos, a Comissária Inman Grant argumenta que essas empresas não fizeram o suficiente para fiscalizar suas próprias plataformas. Ela esclareceu: “Entendemos as questões de viabilidade técnica e não estamos pedindo que façam nada que seja tecnicamente inviável. Mas também estamos dizendo que vocês não estão isentos da responsabilidade moral e legal de simplesmente apagar as luzes ou fechar a porta e fingir que esse abuso horrível não está acontecendo em suas plataformas.”

Por exemplo, o WhatsApp, um serviço com criptografia de ponta a ponta, utiliza diversos sinais comportamentais para detectar e denunciar partes não criptografadas de seus serviços, incluindo nomes de perfil e de grupos de bate-papo, bem como certos símbolos conhecidos por representar pornografia infantil, como os emojis de pizza de queijo. Essa abordagem proativa permite que o WhatsApp denuncie 1,3 milhão de casos de exploração e abuso sexual infantil a cada ano.

Desafiando a pornografia infantil deepfake

As normas elaboradas também estendem seu escopo a materiais de abuso sexual infantil e propaganda terrorista gerados por meio de software de código aberto e inteligência artificial generativa. Uma tendência alarmante na Austrália envolvedentcriando "pornografia deepfake" de seus colegas e compartilhando-a em ambientes educacionais. A comissária Inman Grant expressou sua preocupação, afirmando: "Estamos recebendo relatos de material sintético de abuso sexual infantil por meio de nossas linhas diretas, e isso é particularmente preocupante para nossos colegas da polícia, pois eles dedicam muito tempo àdentde vítimas para que possam, de fato, salvar crianças que estão sendo abusadas."

Ela enfatizou a importância de incorporar a análise regulatória na fase de projeto dessas tecnologias para garantir salvaguardas robustas, prevenindo a proliferação de conteúdo prejudicial. De acordo com o Comissário Inman Grant, “Se não incorporarmos e testarmos a eficácia e a robustez dessas salvaguardas na fase de projeto, uma vez que elas estejam em uso e se replicando, estaremos apenas jogando um jogo interminável e praticamente inútil de bater em toupeiras”.

Consulta pública e implementação

O gabinete do Comissário de Segurança Online iniciou um período de consulta pública para a minuta das normas, que terá a duração de 31 dias. Após esse período, as versões finais das normas serão apresentadas ao parlamento federal e entrarão em vigor seis meses após o seu registro.

As normas não apenas exigem uma moderação de conteúdo mais rigorosa, mas também obrigam as empresas de tecnologia a alocar recursos e pessoal suficientes para iniciativas de confiança e segurança. 

O Comissário Inman Grant afirmou: “Não é possível fazer moderação de conteúdo sem investir em pessoal, políticas, processos e tecnologias. E não dá para ter cake . Se você não monitora casos de abuso sexual infantil, mas não oferece ao público uma forma de denunciá-los quando se deparam com esse tipo de conteúdo em seus serviços, você está, na prática, ignorando crimes que acontecem ao vivo em sua plataforma.”

A introdução dessas normas surge na sequência de umdent recente envolvendo a gigante das redes sociais X, anteriormente conhecida como Twitter, que se recusou a pagar uma multa de US$ 610.500 imposta pelo Comissário de Segurança Online por supostamente não ter abordado adequadamente o material de exploração infantil em sua plataforma. A X entrou com um pedido de revisão judicial no Tribunal Federal. O gabinete do Comissário Inman Grant continua avaliando as opções em relação ao descumprimento da notificação por parte da X Corp, mas se abstém de comentar sobre processos judiciais em andamento.

Numa era em que a tecnologia amplificou a disseminação de conteúdo prejudicial, a iniciativa pioneira da Austrália de estabelecer padrões abrangentes para o setor sinaliza um passo significativo para garantir a segurança dos espaços online, especialmente para crianças e indivíduos vulneráveis. À medida que esses padrões passam por consulta pública e eventual implementação, o mundo observará atentamente para ver se outras nações seguirão o exemplo da Austrália na luta contra a exploração infantil online e o conteúdo pró-terrorismo.