A segurança é responsabilidade de todos: Elon Musk rebate preocupações sobre o êxodo da xAI

Elon Musk está sendo criticado por ignorar medidas de segurança depois que ex-funcionários relataram que ele desmantelou o departamento interno de segurança em sua startup xAI, responsável pelo chatbot Grok. 

Apenas 12 dos cofundadores originais da xAI permanecem empregados na empresa, depois que vários deles saíram por diversos motivos, incluindo a criação de suas próprias empresas e queixas de estagnação criativa.

Será que a xAI está sacrificando a segurança para competir com a OpenAI?

Uma fonte que falou com o The Verge afirmou que a equipe de segurança da xAI foi efetivamente dissolvida, dizendo: "A área de segurança da xAI está morta ".

Segundo relatos, houve uma pressão por conteúdo "sem filtros", o que levou a um foco em recursos NSFW (Não Seguro Para o Trabalho) para a IA Grok.

Ex-funcionários alegam que Musk vê as medidas de segurança como uma forma de "censura". Eles afirmam que os engenheiros são incentivados a "lançar o produto em produção" imediatamente, às vezes ignorando as fases tradicionais de teste.

Essa cultura teria levado a atritos internos entre a liderança, causando frequentes conflitos sobre as prioridades do produto em grandes grupos de bate-papo na plataforma X.

Musk argumentou no X que "a responsabilidade de todos é garantir a segurança".

Usando a Tesla e a SpaceX como exemplos, ele disse que nenhuma das duas empresas possui um departamento de segurança independente e de grandedent , mas mesmo assim produzem os carros e foguetes mais seguros do mundo.

Para Musk, departamentos de segurança separados são frequentemente "falsos" e existem apenas para "apaziguar as preocupações de pessoas de fora", sem terem qualquer poder real para melhorar o produto.

Na batalha judicial em curso entre Musk e a OpenAI e seu CEO, Sam Altman, ele frequentemente critica a OpenAI por se tornar uma empresa de código fechado com fins lucrativos que prioriza o lucro em detrimento da segurança, mas ele próprio está sendo acusado de fazer o mesmo ao remover os mecanismos internos de controle que impedem a IA de gerar conteúdo prejudicial ou tendencioso.

Contratações frequentes na xAI

Após o recente anúncio da fusão entre a xAI e a SpaceX, que resultou em uma avaliação interna de aproximadamente US$ 1,25 trilhão, a empresa sofreu uma onda de demissões de alto escalão, levando muitos a questionarem sua cultura interna, sua direção tecnológica e sua abordagem à segurança da IA. Ex-funcionários descrevem a empresa como uma organização de segurança "morta".

Dois dos cofundadores mais proeminentes da empresa, Yuhuai (Tony) Wu e Jimmy Ba, anunciaram recentemente suas saídas. Wu afirmou que era “hora de um novo capítulo em sua vida”, enquanto Ba observou que precisava “recalibrar sua perspectiva sobre o panorama geral”. Apenas metade dos 12 cofundadores originais que lançaram a xAI permanece na empresa. Vários outros engenheiros e funcionários também se demitiram, muitos afirmando que pretendem abrir suas próprias empresas de IA. Um grupo de ex-funcionários já lançou a “Nuraline”, uma startup focada em infraestrutura de IA.

Alguns funcionários a empresa, como Vahid Kazemi, sugeriram que o setor estagnou, escrevendo no X que "todos os laboratórios de IA estão construindo exatamente a mesma coisa". Outros sugeriram que a xAI está presa em uma "fase de recuperação", simplesmente tentando replicar o que a OpenAI e a Anthropic conquistaram um ano antes, em vez de inovar.

Em uma reunião interna com todos os funcionários, Musk explicou que a xAI agora seria dividida em quatro setores principais: Grok Main e Voice, Coding e Data Macrohard.

O supercluster Colossus da xAI em Memphis, Tennessee, abriga atualmente 100.000 GPUs Nvidia H100 e está sendo expandido para 200.000 GPUs. Esse hardware é essencial para o treinamento do "Grok 3", que Musk acredita que superará todos os outros modelos de IA atualmente no mercado.