Foto de O chatbot de IA Grok, de Elon Musk, corre o risco de ser banido permanentemente na França, Malásia e Índia após criar imagens sexualizadas de crianças em resposta a solicitações públicas na plataforma X.
No sábado, as autoridades da Malásia anunciaram que estão investigando o Grok por produzir conteúdo ofensivo e ilegal usando inteligência artificial. A Comissão de Comunicações e Multimídia (MCMC) do país confirmou ter recebido denúncias de que o Grok estava gerando imagens manipuladas de mulheres e menores de idade em formatos sexualmente explícitos.
A agência deixou claro que distribuir esse tipo de conteúdo é crime na Malásia. Segundo o comunicado, eles também irão atrás dos usuários do X que solicitaram ou publicaram o conteúdo e planejam convocar representantes do X para interrogatório.
A MCMC afirmou: "Embora X não seja atualmente um provedor de serviços licenciado, tem o dever de impedir a disseminação de conteúdo prejudicial em sua plataforma."
Índia, França e União Europeia levantam ameaças legais devido às imagens da Grok
da Índiatrone Tecnologia da Informação aviso formal à X, exigindo uma revisão completa do Grok e de sua capacidade de gerar nudez, material sexualizado ou qualquer coisa que seja ilegal.
A Bloomberg afirma ter visto uma cópia da notificação, datada de 2 de janeiro, que dava à X 72 horas para apresentar um relatório completo sobre as medidas tomadas. A carta alertava para possíveis acusações criminais e penalidades adicionais de acordo com as leis de TI do país.
O Ministro da Tecnologia da Informação da Índia, Ashwini Vaishnaw, disse à CNBC-TV 18: “A Comissão Parlamentar recomendou uma leitronpara regulamentar as redes sociais. Estamos analisando a proposta.”
Entretanto, o governo francês também não se conteve. Autoridades afirmaram na sexta-feira que o Grok havia gerado material sexual "claramente ilegal" no X sem o consentimento das pessoas. Disseram que o comportamento do chatbot provavelmente violava a Lei de Serviços Digitais, que exige que as grandes plataformas tomemtronpara limitar conteúdo ilegal.
Segundo a França, as ações da Grok demonstram uma falha completa na aplicação das regras da plataforma.
Algumas das imagens foram removidas após a repercussão negativa, mas as autoridades afirmaram que o dano já estava feito. Até mesmo a política da Grok proíbe a sexualização, o que torna a violação ainda pior.
Em resposta à controvérsia, uma publicação da Grok no fórum X afirmou ter "dentfalhas nas salvaguardas" e que correções estavam "sendo aplicadas com urgência". Mas isso não diminuiu as exigências dos governos por prestação de contas.
Musk se enfurece após a UE impor multa de € 120 milhões à empresa
Entretanto, apenas no mês passado, a União Europeia multou a X em 120 milhões de euros (cerca de 140 milhões de dólares) por violar a Lei de Serviços Digitais. A multa foi aplicada devido a designs enganosos do selo azul de verificação, sistemas de publicidade obscuros e recusa em conceder acesso a dados a pesquisadores. Mas Elon Musk ainda causou polêmica na plataforma.
Em uma resposta à publicação oficial da UE, Elon simplesmente escreveu: "Bobagem!" No dia seguinte, ele publicou: "A UE deveria ser abolida e a soberania devolvida a cada país, para que os governos possam representar melhor seus povos."
Andrew Puzder, embaixador dos EUA na UE, apoiou Elon Musk em relação ao projeto X, afirmando: "A multa excessiva de € 120 milhões aplicada hoje é resultado do excesso de regulamentação da UE contra a inovação americana."
Ele acrescentou que o governo dodent Trump se opõe à censura e lutará contra regras internacionais injustas. "Esperamos que a UE participe de um comércio justo, aberto e recíproco — e nada menos que isso", publicou Puzder.
À medida que a reação negativa ao Grok aumenta, também aumentam as ameaças de regulamentação e processos judiciais. Mas, em vez de acalmar os ânimos, Elon Musk e sua equipe responderam a um e-mail da Bloomberg com apenas duas palavras: "A mídia tradicional mente"
