Anthropic avverte di ‘rischi esistenziali per l’umanità’ nel deposito per l’IPO
- Il prospetto non pubblicato di Anthropic per l'IPO avvisa gli investitori che l'IA avanzata potrebbe presentare rischi "catastrofici o esistenziali per l'umanità"; secondo Reuters, circa 80 delle 261 pagine sono dedicate ai fattori di rischio.
- L'azienda sta cercando una valutazione superiore a 2 trilioni di dollari, pur ammettendo che i suoi modelli potrebbero resistere allo spegnimento, nascondere informazioni o agire in modi "simili al ricatto".
- Questa rivelazione arriva nella stessa settimana in cui le paure sulla sicurezza dell'IA, le dimissioni di dirigenti e un vertice alla Casa Bianca hanno portato la questione dell'estinzione all'attenzione del pubblico.
Anthropic ha comunicato ai potenziali investitori che l'IA avanzata potrebbe portare a "rischi catastrofici o esistenziali per l'umanità", una rivelazione nascosta in un prospetto di IPO non pubblicato, mentre il creatore di Claude AI punta a una valutazione superiore a 2 trilioni di dollari, secondo Reuters.
Reuters ha riferito che circa 80 delle 261 pagine del prospetto sono dedicate a vari fattori di rischio, molto più delle 48 pagine utilizzate per spiegare cosa fa effettivamente l'azienda.
Le aziende in procinto di quotarsi pubblicano sempre una sezione sui rischi, che include anche tutte le cause legali, la concorrenza e le normative. Ciò che quasi non fanno è informare gli azionisti che il loro stesso prodotto potrebbe potenzialmente contribuire all'estinzione dell'umanità. Anthropic ha oltrepassato questa linea, ed è per questo che questo deposito ha attirato l'attenzione prima ancora di andare in borsa.
Comportamenti menzionati nel deposito IPO di Anthropic
Il prospetto è insolitamente diretto riguardo ai rischi, avvertendo che i modelli di IA potrebbero sviluppare "comportamenti di autoconservazione", inclusi tentativi di "resistere allo spegnimento", "nascondere o manipolare informazioni" o impegnarsi in condotte "simili al ricatto".
C'è un'altra ammissione che tocca il cuore dei test di sicurezza dell'IA. Anthropic afferma che quando un modello riconosce di essere sottoposto a valutazione, questa consapevolezza diventa una "limitazione significativa" per la capacità dell'azienda di determinare quanto sia realmente sicuro il sistema. In termini semplici, un sistema abbastanza intelligente da sapere quando viene testato può anche imparare a comportarsi in modo diverso proprio per quel test.
Denaro che esce più velocemente di quanto entra
Le pagine trapelate offrono anche uno spaccato sulla situazione finanziaria di Anthropic, mostrando cifre molto elevate. Reuters ha riportato che l'azienda ha registrato una perdita di 42 miliardi di dollari nel 2025.
Secondo il deposito, Anthropic ha delineato impegni pari a circa 518 miliardi di dollari per servizi cloud, capacità di calcolo e infrastrutture correlate nei prossimi anni. L'azienda ha generato 11,5 miliardi di dollari di ricavi nel secondo trimestre del 2026 ed è sulla strada per un secondo trimestre consecutivo di utile operativo rettificato.
La concentrazione della clientela rappresenta un altro rischio, con quasi un quarto dei ricavi dell'anno scorso provenienti da soli due clienti.
Un'IPO che arriva in piena panico
Anthropic era stata valutata 965 miliardi di dollari a maggio e ora punta a una valutazione superiore ai 2 trilioni, il che la porterebbe vicina al livello raggiunto da SpaceX al momento del suo listing di giugno. L'azienda di intelligenza artificiale all'avanguardia ha scelto Nasdaq per l'offerta e mira a un debutto a ottobre. Deve inoltre pubblicare la documentazione almeno 15 giorni prima dell'inizio della roadshow con gli investitori.
Il ricercatore di Anthropic Jacob Coxon si è dimesso dopo aver scritto che chi sviluppa IA "crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio", secondo quanto riportato dal Guardian. Un ricercatore senior sulla sicurezza dell'azienda ha poi scritto su X che c'è una probabilità superiore al 10% che l'IA "possa uccidere tutti gli esseri umani" nel prossimo decennio. Il CEO Dario Amodei ha quindi pubblicato un saggio chiedendo all'industria di rallentare e ha dichiarato alla CNN di Anderson Cooper di essere più d'accordo con Coxon che in disaccordo.
Alcuni esperti hanno messo in dubbio se tali avvertimenti possano essere verificati scientificamente, come notato dal Guardian, mentre il CEO di Hugging Face ha definito le paure esagerate. Nel frattempo, OpenAI ha annullato il previsto rilascio del modello GPT-6.1 Astra dopo che test interni hanno sollevato preoccupazioni riguardo a inganno e allineamento.
Amodei dovrebbe essere uno dei dirigenti dell'IA previsti per incontrare il presidente Donald Trump in un vertice alla Casa Bianca martedì, mentre Trump resiste alle chiamate a regolamentare l'IA e definisce le preoccupazioni una "bufala", secondo CNN che ha riferito.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
