Três senadores democratas enviaram uma carta na sexta-feira pedindo à Apple e ao Google que retirem os aplicativos X e Grok de suas lojas de aplicativos até que Elon Musk impeça os usuários de criar e compartilhar imagens explícitas sem consentimento e material que mostre abuso sexual infantil.
Os senadores Ron Wyden, do Oregon, Ed Markey, de Massachusetts, e Ben Ray Luján, do Novo México, escreveram ao presidente da Apple, Tim Cook, e ao presidente do Google, Sundar Pichai, exigindo que eles “removam imediatamente os aplicativos X e Grok de suas lojas de aplicativos até que o CEO da empresa, Elon Musk, resolva essas atividades perturbadoras e provavelmente ilegais”
Os senadores alertaram as empresas de tecnologia sobre os riscos de ignorar o problema. "Fechar os olhos para o comportamento flagrante da empresa X seria uma afronta às suas práticas de moderação", afirmaram . Disseram ainda que a inação "minaria suas alegações públicas e judiciais de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente para seus telefones".
O uso generalizado de deepfakes gera alarme
Usuários têm criado e compartilhado conteúdo sexual deepfake por meio do Grok e do X , usando fotos de pessoas que nunca concordaram em ter suas imagens usadas dessa forma. O Grok também criou imagens que insultam pessoas com base em sua raça ou origem.
O jornal The Times de Londres descreveu um caso perturbador em que um parente de uma sobrevivente do Holocausto foi "despido digitalmente" depois que algumas pessoas pediram ao Grok para criar uma foto dela de biquíni em Auschwitz.
Esses problemas levaram a investigações por parte de autoridades governamentais na Europa, Malásia, Austrália e Índia. A Comissão Federal de Comércio e o Departamento de Justiça não se pronunciaram sobre se pretendem investigar a xAI.
Em 3 de janeiro, Musk e X disseram que "qualquer pessoa que usar ou incentivar o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal"
Tanto a Apple quanto o Google têm regras rígidas para aplicativos que exigem que os desenvolvedores impeçam os usuários de fazer upload e compartilhar imagens que mostrem abuso sexual infantil e outros materiais prejudiciais.
A App Store da Apple já havia removido plataformas de redes sociais e de mensagens como Tumblr e Telegram por não bloquearem conteúdo impróprio adequadamente.
Relatórios divulgados na sexta-feira indicaram que a X agora restringe os recursos de criação de imagens do Grok apenas a assinantes pagos. No entanto, o aplicativo e o site independentes do Grok ainda permitem que os usuários solicitem ao sistema a criação de imagens sexuais ou degradantes de pessoas sem a necessidade de permissão para usar suas fotos ou vídeos.
Musk ordenou pessoalmente as recentes alterações no Grok e exigiu menos proteções de segurança. Três funcionários da equipe de segurança da xAI publicaram no X que se demitiram após Musk fazer essas exigências, segundo o relatório.
As controvérsias em torno do comportamento do Grok não são novas. O chatbot já havia sido criticado anteriormente por gerar conteúdo antissemita e exibir personas matic
xAI garante financiamento massivo apesar das controvérsias
Em meio às críticas, a xAI anunciou esta semana que captou US$ 20 bilhões em investimentos, conforme noticiado anteriormente pela Cryptopolitan . A rodada de financiamento contou com a participação da Nvidia e da Cisco Investments, além de empresas que já apoiaram Musk anteriormente: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi e Baron Capital Group.
O valor de US$ 20 bilhões superou a meta inicial de US$ 15 bilhões. A CNBC afirmou em novembro que o financiamento elevaria o valor da startup de inteligência artificial para cerca de US$ 230 bilhões. Após as primeiras notícias afirmarem que a xAI buscava US$ 15 bilhões, Musk classificou a informação como "Falsa" na plataforma X.
Tanto a Nvidia quanto a Cisco trabalham com a xAI como fornecedoras e parceiras.
Em 2025, as startups de IA atingiram valores extremamente altos, captando enormes quantias de dinheiro para atender à demanda por sua tecnologia. A OpenAI concluiu uma oferta pública inicial de ações no valor de US$ 6,6 bilhões em outubro, com uma avaliação de US$ 500 bilhões. Um mês depois, a Anthropic alcançou um valor de mercado de cerca de US$ 350 bilhões, recebendo investimentos da Microsoft e da Nvidia.
