Senadores pressionam por remoção dos apps X e Grok das lojas da Apple e Google

Três senadores democratas enviaram uma carta na sexta-feira pedindo à Apple e Google que retirassem os aplicativos X e Grok de suas lojas de aplicativos até que Elon Musk pare os usuários de criar e compartilhar imagens explícitas sem consentimento e material mostrando abuso sexual infantil.

Os senadores Ron Wyden, de Oregon, Ed Markey, de Massachusetts, e Ben Ray Luján, de Novo México, escreveram ao chefe da Apple, Tim Cook, e ao chefe do Google, Sundar Pichai, exigindo que eles “removessem imediatamente os aplicativos X e Grok de suas lojas de aplicativos até que o CEO da empresa, Elon Musk, aborde essas atividades perturbadoras e provavelmente ilegais.”

Os senadores alertaram as empresas de tecnologia sobre ignorar o problema. “Fechar os olhos para o comportamento flagrante do X faria uma zombaria de suas práticas de moderação”, eles declararam. Eles também disseram que não fazer nada “minaria suas alegações em público e nos tribunais de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente em seus telefones.”

O uso generalizado de deepfakes levanta alarmes

Os usuários têm criado e compartilhado conteúdo sexual deepfake por meio da Grok e X, usando fotos de pessoas que nunca concordaram em ter suas imagens usadas dessa maneira. A Grok também criou imagens que insultam as pessoas com base em sua raça ou origem.

O Times de Londres descreveu um caso preocupante em que um familiar de uma sobrevivente do Holocausto foi "digitalmente despido" depois que pessoas pediram ao Grok para criar uma imagem dela usando um biquíni em Auschwitz.

Esses problemas levaram a investigações por parte de autoridades governamentais na Europa, Malásia, Austrália e Índia. A Comissão de Comércio Federal (FTC) e o Departamento de Justiça não disseram se pretendem investigar a xAI.

Em 3 de janeiro, Musk e a X afirmaram que “qualquer pessoa que use ou solicite ao Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se fizesse o upload de conteúdo ilegal.”

Tanto a Apple quanto a Google têm regras rigorosas para aplicativos que exigem que os desenvolvedores impeçam os usuários de fazer upload e compartilhar imagens que mostrem abuso sexual infantil e outros materiais prejudiciais.

A Apple App Store anteriormente removeu plataformas de mídia social e mensagens, como Tumblr e Telegram, por não bloquearem adequadamente o conteúdo inadequado.

Relatórios de sexta-feira indicaram que a X agora restringe os recursos de criação de imagens do Grok apenas para assinantes pagos. No entanto, o aplicativo e o site separados do Grok ainda permitem que os usuários peçam ao sistema para criar imagens sexuais ou degradantes de pessoas sem obter permissão para usar suas fotos ou vídeos.

Musk ordenou pessoalmente as recentes alterações no Grok e queria menos proteções de segurança. Três funcionários da equipe de segurança da xAI publicaram na X que renunciaram após Musk fazer essas exigências, de acordo com o relatório.

As controvérsias em torno do comportamento da Grok não são novas. O chatbot já enfrentou críticas por gerar conteúdo antissemita e exibir personas problemáticas.

xAI garante financiamento massivo apesar das controvérsias

Enquanto lidava com críticas, a xAI anunciou nesta semana que conseguiu US$ 20 bilhões de investidores, conforme relatado anteriormente pela Cryptopolitan. A rodada de financiamento incluiu Nvidia e Cisco Investments, junto com empresas que já apoiaram Musk: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi e Baron Capital Group.

O valor de US$ 20 bilhões superou a meta anterior de US$ 15 bilhões. A CNBC disse em novembro que o financiamento colocaria o valor da startup de inteligência artificial em torno de US$ 230 bilhões. Após os primeiros relatos de que a xAI queria US$ 15 bilhões, Musk chamou a notícia de “Falsa” na X.

Nvidia e Cisco trabalham com a xAI como fornecedores e parceiros.

Startups de IA atingiram valores extremamente altos em 2025, atraindo grandes quantias de dinheiro para atender à demanda por sua tecnologia. A OpenAI concluiu uma venda de ações de US$ 6,6 bilhões em outubro com uma avaliação de US$ 500 bilhões. Um mês depois, a Anthropic atingiu cerca de US$ 350 bilhões em valor, recebendo investimentos da Microsoft e da Nvidia.