- O governo coreano pretende tomar medidas regulatórias contra o chatbot Grok da xAI.
- A PIPC realizou uma revisão preliminar do chatbot com base em relatórios locais e internacionais.
- O regulador deseja que a xAI apresente um relatório detalhando como mitigará os riscos ou enfrentará multas.
O governo coreano está olhando para ações regulatórias contra o chatbot de inteligência artificial generativa (IA) do xAI, de propriedade de Elon Musk, o Grok. Isso segue várias críticas direcionadas ao chatbot e seu envolvimento na geração e distribuição de imagens deepfake sexualmente exploratórias.
A informação foi relatada por um veículo de notícias local, o Electronic Times, que mencionou que a Comissão de Proteção de Informações Pessoais (PIPC) lançou uma revisão preliminar de apuração de fatos sobre o Grok após as alegações serem relatadas no país por vários indivíduos.
O processo preliminar é confirmar se a violação realmente ocorreu e se o assunto está dentro de sua jurisdição antes que uma investigação formal possa ser lançada.
O governo coreano conduzirá uma revisão sobre o Grok
De acordo com relatórios, a revisão segue vários relatos que surgiram localmente e no exterior, acusando o Grok de ser usado para criar imagens deepfake explícitas e não consensuais, com a maioria delas envolvendo indivíduos reais e menores.
Com isso, a PICP determinará seu próximo curso de ação após revisar a explicação fornecida pelo Grok e outros documentos de apoio. A agência também deve revisar as tendências regulatórias globais, o que moldaria sua tomada de decisão.
Sob a Lei de Proteção de Informações Pessoais, alterar ou gerar imagens sexuais de indivíduos identificáveis sem consentimento pode constituir tratamento ilegal de dados pessoais.
Os chatbots de IA, que estão integrados à plataforma social X e oferecem geração de texto e imagem na plataforma, enfrentaram várias críticas sobre a criação de imagens falsas de pessoas reais desde o ano passado. O chatbot tem sido usado para criar todo tipo de imagens comprometedoras, o que tem sido malvisto pelo público em geral.
De acordo com a organização não governamental global Center for Countering Digital Hate, estima-se que o Grok tenha sido usado para gerar mais de três milhões de imagens sexualmente explícitas entre 29 de dezembro de 2025 e 8 de janeiro de 2026.
A organização afirma que, desse número, mais de 23.000 eram imagens de menores geradas usando o chatbot. O centro alertou que a rápida disseminação das imagens geradas por IA do Grok levou a uma circulação em larga escala de conteúdo explícito online.
O regulador quer um relatório sobre as medidas tomadas para conter a ameaça
O centro também alertou sobre os sérios riscos de segurança que o desenvolvimento representa para as crianças. Como resultado dessa ameaça, países como os Estados Unidos, o Reino Unido, a França, o Canadá e alguns outros lançaram investigações, enquanto países como Indonésia, Filipinas e Malásia bloquearam o acesso ao Grok.
Em resposta à controvérsia, a xAI anunciou no início deste ano que havia implementado certas medidas técnicas para impedi-lo.
A plataforma afirmou que parou tanto usuários gratuitos quanto pagos de editar ou gerar imagens de pessoas reais, acrescentando que anunciaria mais salvaguardas em breve.
Na Coreia, a Comissão de Mídia e Comunicações (KMCC) exigiu medidas mais fortes de proteção juvenil da X em 14 de janeiro. O regulador coreano disse à plataforma de mídia social que sua empresa de IA precisa elaborar um plano para impedir a geração de conteúdo ilegal ou prejudicial.
Além disso, o regulador também acrescentou que a empresa precisa limitar o acesso de menores a esse tipo de conteúdo.
Atualmente, a X tem um oficial designado de proteção juvenil na Coreia em conformidade com a lei e apresenta relatórios anuais sobre conformidade relacionada. A KMCC instou a plataforma a apresentar documentação adicional sobre o protocolo de segurança do Grok, observando que imagens sexuais não consensuais criadas e distribuídas em sua plataforma, especialmente envolvendo menores, são um crime na Coreia.
A comissão estabeleceu um prazo de duas semanas. Se a X falhar em responder ou ignorar o pedido, pode impor uma multa administrativa de até 10 milhões de won (US$ 6.870). O mesmo movimento foi observado em outros países, onde a xAI foi incumbida de elaborar medidas para conter o aumento da ameaça.
Como a Coreia, os países também anunciaram multas substanciais se a empresa não elaborar e apresentar um relatório demonstrando as etapas que tomou para limitar o aumento da ameaça.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Owotunse Adebayo
Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.
