Primeiro-ministro australiano critica X pelo uso do Grok para gerar conteúdo ofensivo

O primeiro-ministro australiano, Anthony Albanese, criticou duramente a plataforma de blogs X pelo uso do Grok para gerar imagens impróprias. Albanese expressou sua indignação em apoio às preocupações com o uso do chatbot de inteligência artificial Grok para permitir a disseminação de conteúdo sexual exploratório.

Embora o número de denúncias recebidas pelo Escritório de Segurança Online da Austrália ainda seja pequeno, a instituição observa um aumento recente nas denúncias dedentrelacionados ao uso do chatbot para criar imagens sexualizadas ou exploratórias. Em sua declaração, o órgão de fiscalização alertou que usará seus poderes, incluindo notificações de remoção, sempre que os materiais gerados com o chatbot atingirem o limite defina Lei Australiana de Segurança Online.

Segundo o Escritório de Segurança Online (eSafety Office), a plataforma, seu chatbot e uma ampla gama de outros serviços também estão sujeitos às obrigações de segurança para detectar e remover materiais de exploração sexual infantil e outros materiais ilegais, conforme o código e os padrões da indústria australiana, referência mundial no setor. O primeiro-ministro australiano manifestou seu descontentamento no sábado, juntando-se a outros líderes, incluindo seu homólogo britânico, Keir Starmer, nas críticas à plataforma de mídia social.

Primeiro-ministro australiano critica X pelo uso indevido do Grok

“O uso de IA generativa para explorar ou sexualizar pessoas sem o seu consentimento é abominável”, disse ele a repórteres em Canberra. “O fato de essa ferramenta ter sido usada para que as pessoas utilizassem sua função de criação de imagens por meio do Grok é, a meu ver, completamente abominável”, acrescentou que o incidentedent mais um exemplo de como as redes sociais não demonstram responsabilidade social e que os australianos e a população global merecem algo melhor.

As críticas não são descabidas e fazem parte de uma reação global contra o chatbot Grok nesta semana, que levou a X a limitar o uso de sua IA para criar ou editar imagens, restringindo a ferramenta a assinantes pagos. Na sexta-feira, o Grok recusava o pedido de usuários não assinantes que solicitavam imagens alteradas digitalmente. "A geração e edição de imagens estão atualmente limitadas a assinantes pagos. Você pode assinar para desbloquear esses recursos", dizia o chatbot.

Em comunicado divulgado por um porta-voz do Gabinete de Segurança Online (eSafety Office), a maioria das denúncias recebidas estava relacionada à alteração de imagens de adultos, enquanto uma pequena porcentagem envolvia material com potencial de exploração sexual infantil. "As denúncias de abuso baseado em imagens foram recebidas recentemente e ainda estão sendo avaliadas", afirmou a agência. "Em relação às denúncias de conteúdo ilegal e restrito, o material não atingiu o limite de classificação para material de exploração sexual infantil de classe 1."

Como resultado, o Escritório de Segurança Online (eSafety Office) afirmou que se recusou a emitir notificações de remoção ou tomar medidas coercitivas em relação a essas reclamações. No entanto, o porta-voz mencionou que as preocupações com o aumento do uso de IA para exploração infantil persistem. "Isso destaca a importância da Segurança desde a concepção, incluindo a necessidade de que os produtos de IA generativa tenham salvaguardas e proteções adequadas incorporadas em todas as etapas do ciclo de vida do produto, para evitar o uso indevido e a instrumentalização dessas tecnologias antes que ocorram danos", afirmou.

Indonésia proíbe temporariamente Grok por causa de deepfake

Por outro lado, a Indonésia tomou decisivas contra o chatbot Grok. O Ministério das Comunicações e Assuntos Digitais anunciou a medida no sábado, citando a necessidade urgente de proteger crianças e mulheres dos danos causados ​​por conteúdo explícito gerado por inteligência artificial. "O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", afirmou o ministro Meutya Hafid em comunicado oficial.

Ela alegou que o uso indevido de IA para criar pornografia falsa configura uma forma de violência digital. Enquanto isso, a Indonésia exige que as plataformas digitais do país comprovem a existência de medidas de segurança para impedir a geração e distribuição de conteúdo proibido. Como parte dessa fiscalização, o Ministério intimou a X (antiga Twitter). A empresa prestará esclarecimentos, explicando as medidas tomadas para conter a disseminação dessa ameaça.