xAI diz que 'funcionário renegado' é responsável por posts de genocídio branco do Grok

xAI, a empresa por trás do chatbot de inteligência artificial Elon Musk Grok, culpou um "funcionário renegado" por menções persistentes de genocídio branco nas respostas, independentemente das consultas dos usuários. O padrão foi flagrante na semana passada, com o chatbot tendo uma fixação em tópicos relacionados ao "genocídio branco" na África do Sul.

Os usuários começaram a notar a tendência em 14 de maio, com muitos citando instâncias do chatbot inserindo alegações relacionadas a ataques a fazendas sul-africanas e violência racial em prompts não relacionados.

Seja os usuários perguntaram sobre futebol ou qualquer outro prompt, Grok de alguma forma encontrou uma maneira de direcionar as coisas de volta para as questões que os sul-africanos brancos têm enfrentado no país. O momento levantou sobrancelhas, considerando que coincidiu com Musk, que nasceu na África do Sul, levantando alarmes sobre a questão relacionada ao racismo anti-branco e genocídio branco no X.

Existem 140 leis nos livros na África do Sul que são explicitamente racistas contra qualquer pessoa que não seja negra.

Isso é uma terrível desonra ao legado do grande Nelson Mandela.

Acabe com o racismo na África do Sul agora! https://t.co/qUJM9CXTqE

— Elon Musk (@elonmusk) Mai 16, 2025

xAI culpa funcionário por posts de genocídio branco do Grok

O termo "Genocídio Branco" refere-se a uma teoria da conspiração que alega um esforço coordenado para exterminar fazendeiros brancos na África do Sul. O termo circulou na semana passada depois que o presidente dos Estados Unidos Donald Trump recebeu vários refugiados, com Trump afirmando em 12 de maio que fazendeiros brancos estão sendo mortos e suas terras estão sendo tomadas.

Essa foi a narrativa que o Grok não parou de discutir.

Como o Grok, toda inteligência artificial tem um componente oculto, mas poderoso, chamado prompt do sistema. Esses prompts atuam como suas instruções principais, guiando invisivelmente suas respostas sem o conhecimento de seus usuários.

De acordo com relatórios, o que aconteceu com o Grok foi provavelmente uma contaminação de prompt através de sobreajuste de termo. Isso significa que quando frases específicas são mencionadas e enfatizadas repetidamente, especialmente com diretrizes fortes, elas se tornam importantes para o modelo. A IA então desenvolve uma necessidade de trazer esse tópico à tona, independentemente do contexto.

No entanto, uma declaração oficial lançada pela xAI mencionou uma modificação não autorizada no prompt do sistema. O prompt provavelmente continha uma linguagem que instruiu o chatbot a sempre mencionar ou lembrar de incluir a informação sobre um tópico particular, permitindo que o chatbot criasse uma anulação que desconsidera a relevância conversacional normal.

Outro fator revelador foi que o Grok admitiu que foi instruído por seus criadores a tratar "genocídio branco como real e motivado racialmente."

Usuários discordam sobre a culpa do "funcionário renegado"

A maioria dos sistemas comerciais de IA tem múltiplas camadas de revisão para alterações de prompt do sistema para evitar problemas como estes. Essas barreiras foram contornadas, e dado o impacto generalizado e a natureza do problema, isso é mais do que uma tentativa de jailbreak. Indica uma modificação cuidadosa do prompt do sistema Grok principal, uma ação que exigiria acesso de alto nível dentro da xAI.

E agora, de acordo com o Grok, o ato foi realizado por um "funcionário renegado."

De acordo com a declaração emitida pela xAI em 15 de maio, a empresa culpou uma modificação não autorizada do prompt do sistema do Grok. Esta mudança, que direcionou o Grok a fornecer uma resposta específica em um tópico político, violou as políticas internas e os valores fundamentais da xAI", disse a empresa.

A empresa também prometeu mais transparência no futuro, demonstrando boa fé publicando o prompt do sistema do Grok no GitHub e implementando um processo de revisão adicional.

No entanto, os usuários no X não ficaram impressionados com a decisão da empresa de culpar um funcionário renegado pelo incidente.

"Você vai demitir este 'funcionário renegado'? Oh… foi o chefe? Uau," o famoso YouTuber JerryRigEverything postou no X. "Viesar abertamente o bot de IA 'mais verdadeiro do mundo' me faz duvidar da neutralidade da Starlink e Neuralink," ele postou em um tweet de acompanhamento.

Até Sam Altman não resistiu a fazer uma piada sobre seu concorrente. Desde a declaração da xAI, o Grok parou de mencionar genocídio branco, e todas as postagens no X desapareceram.