A segurança é responsabilidade de todos: Elon Musk rebate preocupações sobre o êxodo da xAI

Elon Musk está sendo criticado por ignorar medidas de segurança depois que ex-funcionários relataram que ele desmantelou o departamento interno de segurança em sua startup xAI, responsável pelo chatbot Grok. 

originais da xAI cofundadores permanecem empregados na empresa, depois que vários deles saíram por diversos motivos, incluindo a criação de suas próprias empresas e queixas de estagnação criativa.

Será que a xAI está sacrificando a segurança para competir com a OpenAI?

Uma fonte que falou com o The Verge afirmou que a equipe de segurança da xAI foi efetivamente dissolvida, dizendo: "A área de segurança da xAI está morta ".

Segundo relatos, houve uma pressão por conteúdo "sem filtros", o que levou a um foco em recursos NSFW (Não Seguro Para o Trabalho) para a IA Grok.

Ex-funcionários alegam que Musk vê as medidas de segurança como uma forma de "censura". Eles afirmam que os engenheiros são incentivados a "lançar o produto em produção" imediatamente, às vezes ignorando as fases tradicionais de teste.

Essa cultura teria levado a atritos internos entre a liderança, causando frequentes conflitos sobre as prioridades do produto em grandes grupos de bate-papo na plataforma X.

Musk argumentou no X que "a responsabilidade de todos é garantir a segurança".

Usando a Tesla e a SpaceX como exemplos, ele disse que nenhuma das duas empresas possui um departamento de segurança independente e de grandedent , mas mesmo assim produzem os carros e foguetes mais seguros do mundo.

Para Musk, departamentos de segurança separados são frequentemente "falsos" e existem apenas para "apaziguar as preocupações de pessoas de fora", sem terem qualquer poder real para melhorar o produto.

Na batalha judicial em curso entre Musk e a OpenAI e seu CEO, Sam Altman, ele frequentemente critica a OpenAI por se tornar uma empresa de código fechado com fins lucrativos que prioriza o lucro em detrimento da segurança, mas ele próprio está sendo acusado de fazer o mesmo ao remover os mecanismos internos de controle que impedem a IA de gerar conteúdo prejudicial ou tendencioso.

Contratações frequentes na xAI

Após o recente anúncio da fusão entre a xAI e a SpaceX, que resultou em uma avaliação interna de aproximadamente US$ 1,25 trilhão, a empresa sofreu uma onda de demissões de alto escalão, levando muitos a questionarem sua cultura interna, sua direção tecnológica e sua abordagem à segurança da IA. Ex-funcionários descrevem a empresa como uma organização de segurança "morta".

Dois dos cofundadores mais proeminentes da empresa, Yuhuai (Tony) Wu e Jimmy Ba, anunciaram recentemente suas saídas. Wu afirmou que era “hora de um novo capítulo em sua vida”, enquanto Ba observou que precisava “recalibrar sua perspectiva sobre o panorama geral”. Apenas metade dos 12 cofundadores originais que lançaram a xAI permanece na empresa. Vários outros engenheiros e funcionários também se demitiram, muitos afirmando que pretendem abrir suas próprias empresas de IA. Um grupo de ex-funcionários já lançou a “Nuraline”, uma startup focada em infraestrutura de IA.

Alguns funcionários a empresa, como Vahid Kazemi, sugeriram que o setor estagnou, escrevendo no X que "todos os laboratórios de IA estão construindo exatamente a mesma coisa". Outros sugeriram que a xAI está presa em uma "fase de recuperação", simplesmente tentando replicar o que a OpenAI e a Anthropic conquistaram um ano antes, em vez de inovar.

Em uma reunião interna com todos os funcionários, Musk explicou que a xAI agora seria dividida em quatro setores principais: Grok Main e Voice, Coding e Data Macrohard.

O supercluster Colossus da xAI em Memphis, Tennessee, abriga atualmente 100.000 GPUs Nvidia H100 e está sendo expandido para 200.000 GPUs. Esse hardware é essencial para o treinamento do "Grok 3", que Musk acredita que superará todos os outros modelos de IA atualmente no mercado.