xAI afirma que 'funcionário desonesto' é responsável por genocídio branco. Grok publica

A xAI, empresa por trás do chatbot de inteligência artificial Grok, de Elon Musk, culpou um "funcionário desonesto" pelas menções persistentes ao genocídio branco em suas respostas, independentemente das perguntas dos usuários. O padrão ficou evidente na última semana, com o chatbot demonstrando uma fixação por tópicos relacionados ao "genocídio branco" na África do Sul.

Os usuários começaram a notar a tendência em 14 de maio, com muitos citando casos em que o chatbot inseria afirmações relacionadas a ataques a fazendas na África do Sul e violência racial em perguntas sem relação com o assunto.

Independentemente de os usuários perguntarem sobre futebol ou qualquer outro assunto, Grok de Musk, que nasceu na África do Sul, declarações sobre questões relacionadas ao racismo contra brancos e ao genocídio branco no iPhone X.

Existem 140 leis em vigor na África do Sul que são explicitamente racistas contra qualquer pessoa que não seja negra.

Isso é uma terrível vergonha para o legado do grande Nelson Mandela.

Acabem com o racismo na África do Sul agora! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) 16 de maio de 2025

xAI culpa funcionário por postagens de Grok sobre genocídio branco

O termo "genocídio branco" refere-se a uma teoria da conspiração que alega um esforço coordenado para exterminar fazendeiros brancos na África do Sul. O termo ganhou força na semana passada, depois que odent dos Estados Unidos, Donald Trump, acolheu vários refugiados, afirmando em 12 de maio que fazendeiros brancos estão sendo mortos e suas terras estão sendo tomadas.

Essa era a narrativa que Grok não parou de discutir.

Assim como o Grok, toda inteligência artificial possui um componente oculto, porém poderoso, chamado de comando do sistema. Esses comandos atuam como suas instruções principais, guiando suas respostas de forma invisível, sem que os usuários percebam.

Segundo relatos, o que aconteceu com o Grok foi provavelmente uma contaminação rápida por sobreajuste de termos. Isso significa que, quando frases específicas são mencionadas e enfatizadas repetidamente, especialmente com instruçõestron, elas se tornam importantes para o modelo. A IA então desenvolve a necessidade de abordar esse tópico independentemente do contexto.

No entanto, um comunicado oficial divulgado pela xAI mencionou uma modificação não autorizada na mensagem do sistema. Provavelmente, a mensagem continha um código que instruía o chatbot a sempre mencionar ou lembrar de incluir informações sobre um tópico específico, permitindo que o chatbot criasse uma exceção que ignorava a relevância normal da conversa.

Outro fator revelador foi que a Grok admitiu ter recebido instruções de seus criadores para tratar o “genocídio branco como real e motivado por questões raciais”.

Usuários divergem sobre a culpa do "funcionário desonesto"

A maioria dos sistemas comerciais de IA possui múltiplas camadas de revisão para alterações nas instruções do sistema, a fim de evitar problemas como este. Essas salvaguardas foram contornadas e, dado o impacto generalizado e a natureza do problema, isso é mais do que uma tentativa de desbloqueio. Indica uma modificação cuidadosa da instrução principal do sistema Grok, uma ação que exigiria acesso de alto nível dentro do xAI.

E agora, segundo Grok, o ato foi cometido por um "funcionário desonesto"

Segundo comunicado divulgado pela xAI em 15 de maio, a empresa atribuiu o incidente a uma modificação não autorizada do sistema de prompts do Grok. Essa alteração, que instruía o Grok a fornecer uma resposta específica sobre um tema político, violou as políticas internas e os valores fundamentais da xAI”, afirmou a empresa.

A empresa também prometeu mais transparência no futuro, demonstrando boa fé ao publicar o prompt do sistema Grok no GitHub e implementar um processo de revisão adicional.

No entanto, os usuários da plataforma X não ficaram impressionados com a decisão da empresa de culpar um funcionário desonesto pelo incidente.

"Vocês vão demitir esse 'funcionário rebelde'? Ah... era o chefe? Que horror", publicou no X. "A clara parcialidade do bot de IA 'mais honesto do mundo' me faz duvidar da neutralidade da Starlink e da Neuralink", ele publicou em um tweet seguinte.

Nem mesmo Sam Altman resistiu a alfinetar seu concorrente. Desde a declaração da xAI, o Grok parou de mencionar o genocídio branco e todas as postagens sobre X desapareceram.