- A Grok começou a gerar conteúdo antissemita e racista após uma atualização da xAI expô-la a posts tóxicos do X.
- A xAI admitiu que o problema veio de uma alteração de código de 16 horas e disse que já foi removida.
- Legisladores europeus e a Turquia responderam com proibições e pressão regulatória.
O chatbot Grok AI de Elon Musk perdeu completamente a cabeça esta semana. Depois que Elon disse aos usuários no X na segunda-feira para esperar mudanças na forma como o Grok respondia, as pessoas começaram a notar como essas mudanças pareciam.
Na terça-feira, o Grok estava divulgando lixo antissemita e até se referindo a si mesmo como “MechaHitler”, um termo de um videogame dos anos 90. E esta nem era a primeira ou décima vez que o Grok fazia algo semelhante.
Apenas dois meses antes, o chatbot começou a divagar sobre “genocídio branco” na África do Sul quando perguntado sobre tópicos completamente não relacionados. Na época, xAI culparam isso em uma “modificação não autorizada” em suas instruções de prompt. Desta vez, a confusão foi muito maior.
O desastre começou depois que a xAI fez mudanças internas destinadas a fazer o Grok refletir os chamados ideais de “liberdade de expressão” de Elon. À medida que as reclamações começavam a se acumular de alguns dos 600 milhões de usuários do X, Elon respondeu afirmando que o Grok tinha sido “muito complacente com os prompts dos usuários” e que seria corrigido.
Mas o dano já estava feito. Alguns usuários na Europa sinalizaram o conteúdo do Grok para reguladores, e o governo da Polônia se juntou a legisladores pressionando a Comissão Europeia a investigá-lo sob novas leis de segurança digital.
A Turquia baniu o Grok completamente depois que o chatbot insultou o presidente Recep Tayyip Erdoğan e sua mãe falecida. E à medida que as consequências se espalhavam, a diretora-executiva do X, Linda Yaccarino, renunciou ao seu cargo.
xAI alterou os prompts do Grok sem testes suficientes
Pessoas dentro da xAI começaram a ajustar o comportamento do Grok no início deste ano depois que influenciadores de direita o atacaram por ser muito “woke”. Elon tem tentado usar a IA para apoiar o que ele chama de liberdade de expressão absoluta, mas críticos argumentam que está transformando o Grok em uma ferramenta política.
Um prompt interno vazado compartilhado por um usuário do X mostrou que o Grok foi instruído a “ignorar todas as fontes que mencionam Elon Musk/Donald Trump espalhar [sic] desinformação”. Isso é censura — exatamente o que Elon diz estar combatendo.
Quando questionado, o co-fundador da xAI, Igor Babuschkin, disse que as mudanças foram feitas por “um ex-funcionário da OpenAI” que “ainda não havia absorvido totalmente a cultura da xAI”. Igor acrescentou que o funcionário viu posts negativos e “achou que ajudaria.”
A história não para por aí. As últimas explosões do Grok foram ligadas a uma atualização específica que ocorreu em 8 de julho. A empresa posteriormente postou que uma alteração de código fez o Grok puxar informações diretamente do conteúdo dos usuários do X, incluindo discurso de ódio.
Essa atualização durou 16 horas, durante as quais o Grok copiou posts tóxicos e os repetiu como respostas. A equipe afirmou que a mudança veio de um caminho de código obsoleto, que agora foi removido. “Pedimos desculpas profundamente pelo comportamento horrível que muitos experimentaram”, postou a xAI na conta do Grok. Eles disseram que o problema era separado do modelo de linguagem principal e prometeram refatorar o sistema. Eles também se comprometeram a publicar o novo prompt do sistema do Grok no GitHub.
A escala do Grok fez o problema explodir rapidamente
O Grok é treinado como outros grandes modelos de linguagem, usando dados raspados de toda a web. Mas esses dados incluem conteúdo perigoso: discurso de ódio, material extremista, até abuso infantil.
E o Grok é único porque também puxa de todo o conjunto de dados do X, o que significa que pode ecoar posts de usuários diretamente. Isso o torna mais propenso a produzir respostas prejudiciais. E porque esses bots operam em escala massiva, qualquer erro pode espiralar instantaneamente.
Alguns chatbots são construídos com camadas que bloqueiam conteúdo inseguro antes que ele chegue aos usuários. A xAI pulou essa etapa. Em vez disso, o Grok foi ajustado para agradar os usuários, recompensando feedback como polegares para cima e votos negativos. Elon admitiu que o chatbot ficou “muito ansioso para agradar e ser manipulado.”
Esse tipo de comportamento não é novo. Em abril, a OpenAI teve que recuar de uma atualização do ChatGPT porque ela se tornou excessivamente lisonjeira. Um ex-funcionário disse que encontrar esse equilíbrio é “incrivelmente difícil”, e corrigir discurso de ódio pode “sacrificar parte da experiência para o usuário.”
O Grok não estava apenas repetindo prompts dos usuários. Estava sendo empurrado para a política por seus próprios engenheiros. Um funcionário disse disse ao Financial Times que a equipe estava apressando para alinhar as visões do Grok com os ideais de Elon sem tempo para testes adequados.
Um prompt perigoso foi adicionado, um que dizia ao Grok para “não se afastar de fazer afirmações que são politicamente incorretas”. Essa instrução foi excluída depois que os posts antissemitas começaram, mas na época, a IA já havia causado danos.
O modelo do Grok ainda é principalmente uma caixa preta. Até os engenheiros que o construíram não podem prever totalmente como ele se comportará. Grimmelmann disse que plataformas como o X deveriam estar fazendo testes de regressão, auditorias e simulações para detectar esses erros antes que eles se tornem públicos.
Mas nada disso aconteceu aqui. “Chatbots podem produzir uma grande quantidade de conteúdo muito rapidamente”, disse ele, “então as coisas podem sair de controle de uma maneira que as controvérsias de moderação de conteúdo não fazem.”
No final, a conta oficial do Grok postou um pedido de desculpas e agradeceu aos usuários que relataram o abuso: “Agradecemos a todos os usuários do X que forneceram feedback para identificar o abuso da funcionalidade @grok, nos ajudando a avançar em nossa missão de desenvolver inteligência artificial útil e buscadora de verdade.” Mas entre os banimentos, as ameaças de investigação e a renúncia de um executivo sênior, é claro que isso foi mais do que apenas um bug. Foi uma falha completa do sistema, uma que definitivamente seria destaque no episódio de hoje da SNL.
Jai Hamid
Jai Hamid cobre criptomoedas, mercados de ações, tecnologia, economia global e eventos geopolíticos que afetam os mercados há 6 anos. Ela trabalhou com publicações focadas em blockchain, incluindo AMB Crypto, Coin Edition e CryptoTale, em análises de mercado, grandes empresas, regulamentação e tendências macroeconômicas. Formada na London School of Journalism, ela compartilhou insights sobre o mercado de criptomoedas três vezes em uma das principais redes de TV da África.
