Il revisore dei conti di New York usa il saggio «rallentare» di Amodei per chiedere una pausa sull'IPO di Anthropic

Il controllore della città di New York (NYC) Mark Levine ha chiesto ad Anthropic di sospendere la sua IPO pianificata in una lettera indirizzata all'amministratore delegato di Anthropic, Dario Amodei.

Levine vuole che l'azienda affronti prima la sicurezza e altri rischi senza precedenti posti dall'IA prima di procedere con l'IPO. Ha citato il saggio stesso dell'amministratore delegato Dario Amodei, in cui invitava il settore dell'IA a rallentare.

La lettera si posiziona mentre l'azienda insegue una valutazione vicina a $2 trilioni.

“Procedere a testa bassa con la sua IPO”

Levine ha scritto che Anthropic non può mettere in guardia il mondo dai pericoli dell'IA e correre verso i mercati pubblici contemporaneamente. 

Nella lettera pubblicata il 14 ottobre, il Controllore ha scritto: "Scrivo per sollecitare Anthropic a sospendere la sua offerta pubblica iniziale (IPO) pianificata fino a quando l'azienda non affronterà in modo completo e trasparente le preoccupazioni relative alla sicurezza dell'intelligenza artificiale (AI), alla governance e al ritmo di sviluppo che ha sollevato".

Levine non è un osservatore neutrale. In qualità di controllore, agisce come consulente finanziario, custode e fiduciario dei fondi pensione della città di New York, che detengono attività per oltre 325 miliardi di dollari.

L'ufficio del Controllore ha dichiarato che i suoi fondi pensioni pubblici hanno una esposizione di circa 7 milioni di dollari verso Anthropic tramite private equity.

Sebbene la partecipazione sia piccola, essa conferisce al controllore la posizione per pressare l'azienda prima che vada quotata in borsa.

Levine ha espresso preoccupazioni riguardo alla struttura dell'azienda. Ha sottolineato che Anthropic è una società benefit pubblica del Delaware con un Trust a Lungo Termine per il Beneficio. Secondo quanto riportato, l'azienda potrebbe concedere ai fondatori e ai fiduciari un controllo concentrato, secondo Levine. 

Un divario tra quel controllo e la responsabilità nei confronti degli azionisti, ha sostenuto, è difficile da accettare dati i rischi che Anthropic ha già divulgato.

Cosa sosteneva effettivamente il saggio di Amodei

La lettera di Levine si basa sul Saggio di Amodei intitolato "Dobbiamo dosare la frontiera", pubblicato il 12 settembre.

Amodei ha scritto: "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA". Ha affermato che l'auto-miglioramento ricorsivo e un incidente di sicurezza trasversale al settore lo hanno convinto del fatto che il campo necessita di maggiore cautela, non solo di maggiori investimenti nella sicurezza.

In quell'articolo è stato proposto un piano in tre fasi, e il primo punto prevede l'inserimento di valutatori terzi con accesso simile a quello dei dipendenti per verificare le pratiche di sicurezza. Anthropic afferma di essersi già impegnata autonomamente in questo senso.

Il secondo punto richiede una coordinazione tra le aziende di IA nei paesi democratici; il terzo spinge per una coordinazione globale, inclusa quella con i governi autoritari.

Secondo Levin, l'IPO sta ostacolando il lavoro che Amodei definisce urgente.

Quando l'articolo di Amodei è stato pubblicato, ha raccolto sostegno in tutto il settore, con Sam Altman di OpenAI ed Elon Musk di xAI che hanno aderito alle sue proposte.

Un'IPO da 2 trilioni basata su una crescita del 45%

In un incontro privato pre-IPO a San Francisco mercoledì 14 ottobre, Anthropic ha comunicato ai suoi investitori che nel terzo trimestre il fatturato ha raggiunto circa 16.8 miliardi di dollari, registrando un aumento del 45% rispetto al trimestre precedente, e che ha registrato un utile rettificato.

Nel primo trimestre di quest'anno, Anthropic ha registrato ricavi per 4,7 miliardi di dollari, che sono aumentati significativamente nel secondo trimestre, raggiungendo circa 11,6 miliardi. Tuttavia, l'azienda ha comunque registrato una perdita operativa superiore agli 8 miliardi di dollari nel periodo considerato.

Questa volta l'azienda ha informato i propri investitori di essere entrata in positivo nei flussi di cassa alla chiusura del terzo trimestre, un'affermazione molto rara in un settore che sta bruciando ingenti quantità di liquidità.

Attualmente, Anthropic dispone di impegni infrastrutturali e di calcolo pianificati per oltre 518 miliardi di dollari nei prossimi dieci anni.

Questo stato patrimoniale rappresenta il caso rialzista per un'IPO che potrebbe superare i 2 trilioni di dollari e battere il concorrente OpenAI, che punta a un debutto sui mercati pubblici all'inizio del 2027. Anthropic ha depositato confidenzialmente la bozza del modulo S-1 presso la SEC il 1° giugno.

Governance e accordo con la Casa Bianca

Levine ha anche definito troppo debole il recente accordo tra industria e governo. Anthropic e altre cinque aziende hanno firmato quello che la lettera definisce un accordo moralmente vincolante con la Casa Bianca, che Levine ha definito "insufficiente ad affrontare le sfide attuali".

Alcune delle preoccupazioni del controllore sono amplificate dalle stesse dichiarazioni di Anthropic. L'azienda ha avvertito nella sua bozza di S-1 che l'IA avanzata potrebbe rappresentare un "rischi catastrofici o esistenziali per l'umanità,” con fattori di rischio che occupano circa 80 pagine, quasi il doppio della lunghezza della sezione dedicata all'attività.

Per sottolineare ulteriormente i rischi evidenziati, Levine ha menzionato che il saggio di Amodei è stato pubblicato dopo la dimissione di Jacob Coxon, ex ricercatore dell'azienda, avvenuta il 9 settembre. 

Coxon ha citato preoccupazioni esistenziali come motivo della sua partenza da Anthropic, affermando che gli insider ritengono che l'IA potrebbe spazzare via l'umanità entro la fine del decennio, dato il ritmo dello sviluppo.

Una dichiarazione del responsabile della scienza dell'allineamento dell'azienda, Evan Hubinger, stimava in oltre il 10% la probabilità che l'IA uccida tutti gli esseri umani entro il decennio.

La data esatta per l'IPO non è stata ancora comunicata; tuttavia, gli speculatori ritengono che potrebbe arrivare solo dopo le elezioni di medio termine negli Stati Uniti di novembre, sebbene ci si aspetti comunque che l'azienda quoti prima di OpenAI.