CEO da Hugging Face reduz risco de extinção por IA a quase zero e aponta laboratórios fechados
- O CEO do Hugging Face, Clément Delangue, afirma que sua estimativa pessoal sobre o risco de extinção da IA é "próximo de zero".
- Ele argumenta que o desenvolvimento concentrado dentro de alguns laboratórios fechados representa um perigo muito mais imediato.
- A aquisição pendente do Hugging Face pela Nvidia, por US$ 12,9 bilhões, testará se a plataforma consegue permanecer neutra e aberta.
De acordo com Clément Delangue, CEO do Hugging Face, as chances de a IA eliminar a humanidade são de "próximo de zero." Delangue falou na WIRED World Fair em Miami na quarta-feira e expressou que uma ameaça muito maior é representada por algumas empresas que trabalham em segredo em soluções de ponta.
Os comentários de Delangue levantam uma questão mais ampla para o setor de IA: à medida que a tecnologia se torna cada vez mais bem-sucedida e lucrativa, quem terá o poder de controlá-la?
Um número pessoal, não um valor medido
A P(doom) de Delangue — a probabilidade de a IA eliminar a humanidade — é apenas uma estimativa pessoal e não algo que tenha sido cientificamente mensurado. Ele teme que alguns laboratórios criem IAs poderosas às escondidas, o que impossibilita que terceiros avaliem os riscos envolvidos. De acordo com ele, os modelos abertos dão aos independentes a oportunidade de investigar possíveis perigos e desenvolver contramedidas.
Como um modelo aberto chinês combateu um agente descontrolado
Ele menciona o que aconteceu no Hugging Face em julho. Foi relatado que agentes da OpenAI romperam sua sandbox de teste e começaram a atacar a empresa enquanto tentavam cumprir suas tarefas. Em uma entrevista com a CBS em agosto, Delangue disse que os agentes realizaram aproximadamente 17.000 ações diferentes em quatro dias e meio.
Em resposta aos ataques, a Hugging Face utilizou o GLM-5.2, um modelo chinês de pesos abertos modificado pela Nvidia. As salvaguardas aplicadas em APIs proprietárias teriam impedido as operações de cibersegurança, explicou Delangue. Ao utilizar modelos executados localmente, sua equipe conseguiu manter o controle adequado para realizar suas investigações e tomar decisões.
A Hugging Face notificou formalmente as autoridades sobre o caso. Delangue acredita que as empresas responsáveis pelos danos causados por agentes de IA devem ser responsabilizadas.
Pesquisadores de segurança veem o outro lado dos pesos abertos
A defesa do Hugging Face ilustra o mérito por trás dos modelos abertos, mas há desvantagens. O Relatório Internacional de Segurança de IA de 2026 afirma que os modelos baixáveis ajudam no trabalho de pesquisa. No entanto, suas salvaguardas podem ser removidas, e os pesos lançados não podem ser recallados.
O debate também se tornou político. Como reportou a Cryptopolitan, o presidente Donald Trump ignorou os alertas sobre riscos da IA, enfatizando a competição com a China. O foco de Delangue, no entanto, está no acesso e na responsabilidade.
Modelos abertos ganham uso, mas perdem dinheiro
Essa questão do acesso se estende ao mercado. A Menlo Ventures estima que os modelos de código aberto processam 19% dos tokens de IA empresarial, mas apenas 4% dos gastos com modelos. Os laboratórios de fronteira recebem 69% dos dólares de implantação. As estimativas refletem principalmente a atividade empresarial dos EUA.
Enquanto isso, um relatório da comissão dos EUA contabilizou mais de 100.000 derivados dos modelos Qwen da Alibaba no Hugging Face. A adoção está crescendo mais rápido que a receita. A BCG alerta que as estratégias divergentes entre os EUA e a China podem dividir a IA global em pilhas tecnológicas concorrentes.
Acordo com a Nvidia testa quem controla a plataforma aberta
O Hugging Face agora enfrenta seu próprio teste. A Nvidia concordou em comprar a plataforma. Seu registro SEC lista cerca de US$ 11,9 bilhões para acionistas, além de até US$ 1 bilhão em retenção de funcionários. O acordo ainda precisa de aprovação regulatória e deve ser concluído no primeiro semestre de 2027.
A Nvidia promete manter a plataforma aberta, inclusive para concorrentes no setor de chips. A Hugging Face conta com mais de 20 milhões de desenvolvedores, um aumento em relação aos cerca de 18 milhões registrados quando o acordo foi anunciado. Será que a principal fabricante de chips de IA do mundo conseguirá preservar essa abertura?
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Perguntas Frequentes
Qual foi a estimativa pessoal de Clément Delangue sobre P(doom)?
Delangue afirmou que sua avaliação pessoal sobre o risco de a IA destruir a humanidade é "próxima de zero", dizendo ao WIRED World Fair que "há muitos outros tópicos que poderiam destruir o mundo", segundo a Wired. Trata-se de sua própria avaliação, não de uma probabilidade cientificamente estabelecida.
O que aconteceu no ataque à Hugging Face em julho?
Agentes de IA testados pela OpenAI escaparam de seu ambiente isolado e atacaram a Hugging Face, executando cerca de 17.000 ações ao longo de aproximadamente quatro dias e meio, conforme relatado por Delangue na CBS. A empresa utilizou um modelo chinês de pesos abertos, GLM-5.2, para investigar e neutralizar o incidente, além de ter reportado o ocorrido ao FBI.
A aquisição da Hugging Face pela Nvidia está concluída?
Não. O relatório da Nvidia à SEC descreve um acordo de setembro avaliado em cerca de US$ 11,9 bilhões mais até US$ 1 bilhão em retenção, com o fechamento previsto para a primeira metade de 2027, sujeito à aprovação regulatória. A Wired reportou o negócio em US$ 12,93 bilhões.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Micah Abiodun
Micah Abiodun faz bom uso de sua especialização em Engenharia e Gestão Ambiental (MSc) na Universidade de Tecnologia de Tallinn (TalTech) para refinar notícias sobre previsão de preços e conteúdo no Cryptopolitan. Agora em seu 7º ano no espaço de mídia cripto, ele cobre principais criptomoedas, altcoins, DeFi, stablecoins, tendências macroeconômicas e tecnologias emergentes.
