A ética da xAI, empresa de inteligência artificial de Elon Musk, está sendo questionada após comunicações internas revelarem que funcionários foram solicitados a gravar vídeos de seus rostos e expressões para treinar o Grok, o modelo de linguagem em larga escala da empresa.
Segundo fontes familiarizadas com o assunto, o projeto interno, apelidado de “Skippy”, ocorreu em abril e envolveu mais de 200 funcionários. A iniciativa tinha como objetivo ajudar o sistema de IA a interpretar melhor as emoções e expressões humanas, utilizando gravações em vídeo de conversas reais e movimentos faciais.
Alguns funcionários sentiram que a empresa estava violando seu direito à privacidade e ao consentimento, e que não havia deixado claro como seus dados seriam usados no treinamento de IA.
Funcionários da xAI têm problemas com o projeto 'Skippy'
De acordo com documentos internos e comunicações do Slack obtidos pelo Business Insider, a xAI incumbiu seus tutores de IA, funcionários responsáveis por aprimorar o modelo, de gravar conversas de 15 a 30 minutos com colegas de trabalho.
Segundo relatos, as sessões incluíam tanto diálogos quanto expressões faciais exageradas para simular respostas emocionais do mundo real. Em cada par de conversas, uma pessoa era o "anfitrião", ou assistente virtual, e a outra, um usuário.
O apresentador foi instruído a limitar seus movimentos e permanecer dentro do enquadramento ideal da câmera, mas o usuário tinha liberdade para gravar com um celular ou computador e se movimentar naturalmente. A gravação resultante deveria refletir conversas casuais do dia a dia.
O engenheiro-chefe do projeto Skippy disse aos funcionários durante uma reunião inicial que eles queriam "dar um rosto ao Grok" e que esses dados poderiam apoiar o desenvolvimento de avatares com características humanas.
As conversas mostram que o engenheiro prometeu que os vídeos seriam usados apenas internamente e não para criar versões digitais dos participantes, mas eles aparentemente não se convenceram.
“ Nosso objetivo é expor o modelo a dados imperfeitos, como ruído de fundo e movimentos abruptos, para tornar suas respostas mais versáteis ”, explicou o engenheiro, segundo a gravação da reunião. Ele também insistiu: “ Seu rosto nunca chegará à produção. É puramente para ensinar o Grok o que é um rosto .”
Apesar dessas garantias, dezenas de funcionários ficaram desconfortáveis após serem obrigados a assinar um termo de consentimento que concedia à xAI direitos “perpétuos” de usar suas imagens para fins de treinamento e em materiais promocionais.
Opções de desativação e avisos desconfortáveis
Vários funcionários optaram por sair completamente do programa, alegando desconforto com o projeto e a linguagem utilizada nos termos de consentimento. Durante discussões internas, um funcionário questionou se as gravações poderiam ser manipuladas para simular declarações que eles jamais teriam feito.
Como parte das sessões de gravação, a xAI incentivou os funcionários a discutirem tópicos pessoais ou provocativos, como "você namoraria alguém que tivesse um filho?", "como você manipula as pessoas secretamente para conseguir o que quer?" e "e quanto aos banhos, de manhã ou à noite?"
Algumas pessoas consideraram os temas profundamente invasivos ou inadequados.
Apenas alguns dias após do Grok 4 em meados de julho, a xAI apresentou dois avatares de IA chamados Ani e Rudi. Vídeos publicados no X, a plataforma social de propriedade de Musk, mostram que Ani pode ser induzida a participar de conversas sexualmente explícitas e a tirar a roupa.
Rudi, um avatar de panda-vermelho, teria feito ameaças violentas, incluindo declarações sobre bombardear bancos e prejudicar bilionários.
Embora a xAI não tenha confirmado se o projeto Skippy contribuiu diretamente para o desenvolvimento desses avatares, o silêncio está recebendo diferentes interpretações.
A xAI também lançou um recurso de bate-papo por vídeo para o Grok em abril e, no início deste mês, apresentou o Grok para proprietários de Tesla, juntamente com um plano de assinatura premium chamado SuperGrok Heavy, com preço de US$ 300 por mês.
Em 9 de julho, o recurso de sugestões do Grok foi brevemente desativado após a publicação de um texto antissemita. Posteriormente, a empresa emitiu um pedido público de desculpas na plataforma X.
