PM australiano critica o X pelo uso do Grok para gerar conteúdo ofensivo

Australian PM slams X over use of Grok to generate offensive content

Embora o número de relatórios recebidos pelo Escritório de Segurança Eletrônica (eSafety Office) da Austrália permaneça baixo, ele observa que houve um aumento recente em denúncias de incidentes relacionados ao uso do chatbot para criar imagens sexualizadas ou exploratórias. Em seu comunicado, o órgão regulador alertou que usará seus poderes, incluindo ordens de remoção, quando os materiais gerados pelo chatbot atingirem o limiar definido na Lei de Segurança Online da Austrália.

De acordo com o Escritório de Segurança Eletrônica, a plataforma, seu chatbot e uma ampla gama de outros serviços também estão sujeitos às obrigações de segurança para detectar e remover materiais de exploração sexual infantil e outros materiais ilegais, como parte do código e das normas industriais de liderança mundial da Austrália. O primeiro-ministro australiano manifestou seu descontentamento no sábado, juntando-se a outros líderes mundiais, incluindo seu homólogo britânico Keir Starmer, ao criticar a plataforma de mídia social.

Primeiro-ministro australiano critica X pelo uso indevido do Grok

According to the eSafety Office, the platform, its chatbot, and a wide range of other services are also subject to the safety obligations to detect and remove child sexual exploitation materials and other unlawful materials as part of Australia’s world-leading industry code and standards. The Australian PM made his displeasure known on Saturday, joining other world leaders, including British counterpart Keir Starmer, in criticising the social media platform.

Suas críticas não são infundadas e fazem parte de uma reação global contra o chatbot Grok nesta semana, o que levou a X a limitar o uso de sua IA para criar ou editar imagens, restringindo a ferramenta para assinantes pagos. Na sexta-feira, o Grok recusava o pedido de usuários não assinantes que solicitavam imagens alteradas digitalmente. “A geração e edição de imagens estão atualmente limitadas aos assinantes pagos. Você pode se inscrever para desbloquear esses recursos”, disse o chatbot.

No comunicado divulgado por um porta-voz do eSafety Office, a maioria das reclamações recebidas estava relacionada a preocupações com a alteração de imagens de adultos, enquanto uma pequena porcentagem envolvia material potencial de exploração sexual infantil. “Os relatórios de abuso baseado em imagens foram recebidos muito recentemente e ainda estão sendo avaliados”, disse a agência. “Em relação aos relatórios de conteúdo ilegal e restrito, o material não atingiu o limiar de classificação para material de exploração sexual infantil de classe 1.”

Como resultado, o eSafety Office disse que se recusou a emitir ordens de remoção ou tomar medidas de aplicação da lei concernentes a essas reclamações. No entanto, o porta-voz mencionou que as preocupações com o aumento do uso da IA para realizar exploração infantil persistem. “Isso destaca a importância da Segurança por Design, incluindo a necessidade de produtos de IA generativa terem salvaguardas e barreiras apropriadas integradas em todas as etapas do ciclo de vida do produto, para prevenir o uso indevido e a weaponização dessas tecnologias antes que ocorram danos”, disseram eles.

Indonésia proíbe temporariamente o Grok devido a deepfakes

“The use of generative AI to exploit or sexualise people without their consent is abhorrent,” he told reporters in Canberra. “The fact that this tool was used so that people were using its image creation function through Grok is, I think, just completely abhorrent,” Albanese added that the incident is another example of social media not showing social responsibility, noting that Australians and the global population deserve better.

On the other hand, Indonesia has taken decisive action against the Grok chatbot. The Ministry of Communication and Digital Affairs announced the move on Saturday, citing the urgent need to protect children and women from the harms of AI-generated explicit content. “The government views non-consensual sexual deepfakes as a serious violation of human rights, dignity, and citizens’ security in the digital space,” said Minister Meutya Hafid in an official statement.