Controlador de NYC usa ensaio de 'desaceleração' de Amodei para pedir pausa no IPO da Anthropic

O Controlador de Nova York (NYC), Mark Levine, solicitou à Anthropic que pause sua IPO planejada em uma carta endereçada ao CEO da Anthropic, Dario Amodei.

Levine quer que a empresa primeiro aborde a segurança e outros riscos sem precedentes que a IA apresenta antes de prosseguir com a IPO. Ele apontou para o próprio ensaio do CEO Dario Amodei, onde ele instou a indústria de IA a desacelerar.

A carta chega enquanto a empresa persegue uma avaliação próxima a US$ 2 trilhão.

“Prosseguindo precipitadamente com sua IPO”

Levine escreveu que a Anthropic não pode alertar o mundo sobre os perigos da IA e correr para os mercados públicos ao mesmo tempo. 

Na carta publicada em 14 de outubro, o Controlador escreveu: "Escrevo para instar a Anthropic a pausar sua oferta pública inicial (IPO) planejada até que a empresa aborde de forma completa e transparente as preocupações levantadas sobre segurança de inteligência artificial (IA), governança e ritmo de desenvolvimento."

Levine não é um observador neutro. Como controlador, ele atua como consultor de investimentos, custodiante e fiduciário dos fundos de pensão da Cidade de Nova York, que detêm mais de US$ 325 bilhões em ativos.

O gabinete do Controlador afirmou que seus fundos públicos de pensão têm cerca de US$ 7 milhões de exposição à Anthropic por meio de private equity.

Embora a participação seja pequena, ela confere ao controlador legitimidade para pressionar a empresa antes de ir ao mercado aberto.

Levine levantou preocupações sobre a estrutura da empresa. Ele apontou que a Anthropic é uma corporação de benefício público de Delaware com um Fundo Fiduciário de Benefício de Longo Prazo. Relatórios indicam que a empresa poderia conceder aos fundadores e fiduciários controle concentrado, segundo Levine. 

Um fosso entre esse controle e a responsabilidade perante os acionistas, argumentou ele, é difícil de aceitar diante dos riscos que a Anthropic já divulgou.

O que o ensaio de Amodei realmente argumentou

A carta de Levine baseia-se no Ensaio de Amodei titled “We Must Pace the Frontier,” which was published September 12.

Amodei wrote, “We must slow the pace at which we improve the capabilities of AI models.” He said that recursive self-improvement and a cross-industry security incident had convinced him the field needs more caution, not just more spending on safety.

A three-step plan was proposed in that essay, and the first embeds third-party evaluators with employee-like access to verify safety practices. Anthropic says that it already committed to this on its own.

The second calls for coordination among AI firms in democratic countries; the third pushes for global coordination, including with authoritarian governments.

According to Levin, the IPO is standing in the way of the work that Amodei says is urgent.

When Amodei’s essay was published, it garnered support across the industry, with OpenAI’s Sam Altman and xAI’s Elon Musk agreeing to its submissions.

A $2 trillion IPO built on 45% growth

At a private pre-IPO meeting in San Francisco on Wednesday, October 14, Anthropic told its investors that its third-quarter receita atingiu cerca de US$ 16.8 bilhões, which was a 45% increase from the prior quarter, and that it had turned an adjusted profit.

No primeiro trimestre deste ano, a Anthropic registrou uma receita de US$ 4,7 bilhões, que aumentou significativamente no segundo trimestre, quando atingiu cerca de US$ 11,6 bilhões. No entanto, a empresa ainda registrou uma perda operacional superior a US$ 8 bilhões durante o período.

Desta vez, a empresa informou aos seus investidores que estava com fluxo de caixa positivo ao encerrar o terceiro trimestre, o que é uma afirmação muito rara em um setor que tem consumido grandes quantias de dinheiro.

Atualmente, a Anthropic possui compromissos planejados de infraestrutura e computação superiores a US$ 518 bilhões para a próxima década.

Esse balanço patrimonial representa o cenário otimista para uma oferta pública que poderia ultrapassar US$ 2 trilhões e superar a concorrente OpenAI, que visa entrar nos mercados públicos no início de 2027. A Anthropic apresentou confidencialmente seu rascunho do formulário S-1 à SEC em 1º de junho.

Governança e acordo com a Casa Branca

Levine também descartou o recente acordo entre indústria e governo como insuficiente. A Anthropic e outras cinco empresas assinaram o que a carta descreveu como um acordo moralmente vinculante com a Casa Branca, o qual Levine afirmou ser "insuficiente para atender às demandas atuais."

Parte das preocupações do controlador são amplificadas pelas próprias divulgações da Anthropic. A empresa alertou em seu projeto de S-1 que a IA avançada poderia representar “riscos catastróficos ou existenciais para a humanidade,” com fatores de risco ocupando cerca de 80 páginas, quase o dobro do tamanho da seção que descreve o negócio.

Para destacar ainda mais os riscos que ele está apontando, Levine mencionou que o ensaio de Amodei foi publicado após Jacob Coxon, ex-pesquisador da empresa, ter renunciado em 9 de setembro. 

Coxon citou preocupações existenciais como motivo para deixar a Anthropic, afirmando que insiders acreditam que a IA poderia eliminar a humanidade até o final da década, dado o ritmo atual de desenvolvimento.

Uma declaração do líder de ciência de alinhamento da empresa, Evan Hubinger, estimou em mais de 10% as chances de a IA matar todos os humanos dentro da próxima década.

A data exata do IPO não foi divulgada; no entanto, especula-se que só ocorrerá após as eleições intermediárias nos EUA em novembro, embora a empresa ainda seja esperada para ser listada antes da OpenAI.