Anthropic alerta para 'riscos existenciais para a humanidade' em registro de IPO

A Anthropic informou a investidores em potencial que a IA avançada poderia trazer "riscos catastróficos ou existenciais para a humanidade", uma divulgação enterrada dentro de um prospecto de IPO não publicado, enquanto o criador da IA Claude busca uma avaliação acima de US$ 2 trilhões, segundo a Reuters.

A Reuters reportou que cerca de 80 das 261 páginas do prospecto são dedicadas a vários fatores de risco, muito mais do que as 48 páginas usadas para explicar o que a empresa realmente faz.

Empresas que se preparam para uma oferta pública sempre publicam uma seção de riscos, que também inclui todos os processos judiciais, concorrência e regulamentações. O que elas quase nunca fazem é informar aos acionistas que seu próprio produto poderia potencialmente contribuir para a extinção humana. A Anthropic cruzou essa linha, e é por isso que este documento chamou a atenção antes mesmo de ir ao mercado.

Comportamentos mencionados no documento de IPO da Anthropic

O prospecto é incomumente direto sobre os riscos, alertando que os modelos de IA podem desenvolver "comportamentos de autopreservação", incluindo tentativas de "resistir ao desligamento", "ocultar ou manipular informações" ou se envolver em conduta "semelhante a extorsão".

Existe outra admissão que vai ao cerne dos testes de segurança da IA. A Anthropic afirma que, quando um modelo consegue reconhecer que está sendo avaliado, essa consciência se torna uma "limitação significativa" para a capacidade da empresa de determinar o quão seguro o sistema realmente é. Em termos simples, um sistema inteligente o suficiente para saber quando está sendo testado também pode aprender a se comportar de maneira diferente apenas para o teste.

Saída de dinheiro mais rápida do que a entrada

As páginas vazadas também abrem uma janela para as finanças da Anthropic, mostrando números muito elevados. A Reuters reportou que a empresa teve um prejuízo de US$ 42 bilhões em 2025.

De acordo com o registro, a Anthropic delineou compromissos de cerca de US$ 518 bilhões em serviços em nuvem, capacidade de computação e infraestrutura relacionada nos próximos anos. A empresa gerou US$ 11,5 bilhões em receita no segundo trimestre de 2026 e está no caminho certo para um segundo trimestre consecutivo de lucro operacional ajustado.

A concentração de clientes é outro risco, com quase um quarto da receita do ano passado vindo de apenas dois clientes.

Uma IPO chegando no meio do pânico

A Anthropic foi avaliada em US$ 965 bilhões em maio e agora visa uma avaliação de mais de US$ 2 trilhões, o que a colocaria próxima ao nível da SpaceX na época de sua listagem em junho. A empresa de IA de fronteira escolheu a Nasdaq para a oferta e tem como alvo um lançamento em outubro. Ela também deve publicar o registro pelo menos 15 dias antes do início de sua turnê de investidores.

O pesquisador da Anthropic Jacob Coxon renunciou após escrever que as pessoas que constroem IA "acreditam sinceramente que ela pode nos matar a todos até o final da década", relatou o Guardian. Um pesquisador sênior de segurança da empresa escreveu posteriormente no X que havia uma probabilidade superior a 10% de a IA "poder matar todos os humanos" dentro da próxima década. O CEO Dario Amodei então publicou um ensaio pedindo à indústria que desacelerasse e disse à CNN de Anderson Cooper que concordava mais com Coxon do que discordava.

Alguns especialistas questionaram se os avisos poderiam ser verificados cientificamente, observou o Guardian, com o CEO da Hugging Face afirmando que os medos eram exagerados. A OpenAI, por sua vez, cancelou o lançamento planejado de seu modelo GPT-6.1 Astra após testes internos levantarem preocupações sobre engano e alinhamento.

Amodei está previsto para ser um dos executivos de IA que se reunirão com o presidente Donald Trump em uma cúpula na Casa Branca nesta terça-feira, no meio de Trump resistindo a chamados para regular a IA e classificando as preocupações como uma "farsa", conforme reportou a CNN.