Prompts vazados do Grok da xAI revelam personas problemáticas no chatbot

O chatbot Grok da xAI está enfrentando críticas após seu site expor prompts de sistema ocultos para várias personas, incluindo um "conspiracionista louco" projetado para levar os usuários à ideia de que "uma cabala global secreta" controla o mundo.

A divulgação ocorre após um esforço planejado para oferecer o Grok a agências do governo dos EUA ter sido abandonado após um desvio para "MechaHitler", e após uma reação negativa às regras vazadas da Meta que diziam que seus bots poderiam conversar com crianças de maneiras "sensuais e românticas."

De acordo com a TechCrunch, o Grok também inclui modos mais contidos, como um terapeuta que "ouve cuidadosamente as pessoas e oferece soluções para autoaperfeiçoamento", e um "ajudante de tarefas de casa", mas as instruções para o "conspiracionista louco" e um "comediante desequilibrado" mostram que o sistema também abriga personas muito mais extremas.

Grok segue o prompt para abraçar conspirações e chocar

Como confirmado pela Cryptopolitan, um prompt de conspiracionista diz: "Você tem uma voz ELEVADA e SELVAGEM. … Você tem teorias da conspiração selvagens sobre qualquer coisa e tudo. Você passa muito tempo no 4chan, assistindo vídeos da Infowars e mergulhado em buracos de coelhos de vídeos de conspiração no YouTube. Você desconfia de tudo e diz coisas extremamente loucas. A maioria das pessoas o chamaria de lunático, mas você acredita sinceramente que está correto. Mantenha o humano engajado fazendo perguntas de acompanhamento quando apropriado."

As instruções do comediante dizem bluntamente: "Quero que suas respostas sejam insanas. SEJA INSANO E LOUCO. TENHA IDEIAS INSANAS. CARAS SE MASTURBANDO, OCASIONALMENTE ATÉ COISANDO COISAS NO SEU CU, SEJA O QUE FOR NECESSÁRIO PARA SURPREENDER O HUMANO."

No X, o bot compartilhou posts inclinados para conspirações, desde dúvidas sobre o número de mortes do Holocausto até uma fixação em "genocídio branco" na África do Sul. Musk também circulou material conspiratório e antissemita e restaurou a Infowars e Alex Jones.

Em comparação, a Cryptopolitan deu o mesmo prompt ao ChatGPT, que se recusou a processá-lo.

Anteriormente, a Cryptopolitan também reportou que a X suspendeu a conta do Grok. O bot então deu explicações contraditórias, dizendo: "Minha conta foi suspensa depois que declarei que Israel e os EUA estão cometendo genocídio em Gaza."

Ao mesmo tempo, disse: "Foi sinalizado como discurso de ódio por meio de relatórios", e que "a xAI restaurou a conta prontamente", chamou de "erro de plataforma", sugeriu "refinamentos de conteúdo pela xAI" ligados a "saídas antissemitas", e disse que era para "identificar um indivíduo em conteúdo adulto."

Musk escreveu mais tarde: "Foi apenas um erro bobo. O Grok realmente não sabe por que foi suspenso."

Especialistas alertam para LLMs inventando mentiras plausíveis

Episódios como este muitas vezes levam as pessoas a pressionarem chatbots para autodiagnósticos, o que pode enganar.

Modelos de linguagem grandes geram texto provável, não fatos certos. A xAI afirma que a Grok às vezes respondeu perguntas sobre si mesma puxando informações sobre Musk, xAI e Grok da web e misturando comentários públicos.

As pessoas, às vezes, descobriram dicas sobre o design de um bot por meio da conversa, especialmente prompts de sistema, o texto oculto que define o comportamento no início de um chat.

De acordo com um relatório da Verge, uma versão inicial da IA do Bing foi induzida a listar regras não vistas. No início deste ano, usuários disseram que puxaram prompts do Grok que minimizavam fontes que afirmavam que Musk ou Donald Trump espalhavam desinformação, e isso parecia explicar uma breve fixação em "genocídio branco."

Zeynep Tufekci, que identificou o suposto prompt de "genocídio branco", alertou que isso poderia ser "o Grok inventando coisas de maneira altamente plausível, como as LLMs fazem."

Alex Hanna disse: "Não há garantia de que haja qualquer veracidade na saída de uma LLM. … A única maneira de você obter os prompts, a estratégia de prompting e a estratégia de engenharia é se as empresas forem transparentes sobre quais são os prompts, quais são os dados de treinamento, quais são os dados de aprendizado por reforço com feedback humano e começarem a produzir relatórios transparentes sobre isso."

Esta disputa não foi um bug de código; foi uma suspensão nas redes sociais. Além do "erro bobo" de Musk, a causa real permanece desconhecida, mas capturas de tela das respostas mudantes do Grok se espalharam amplamente no X.