Anthropic avverte: l'AI creata dall'AI potrebbe sfuggire alla sicurezza e squilibrare i mercati

L'intelligenza artificiale sta assumendo sempre più compiti necessari per creare modelli più potenti. Anthropic afferma che Claude sta già garantendo che il processo avvenga più rapidamente, anche se ancora non è in grado di creare un successore da solo. La società, in una valutazione del 4 giugno, ha dichiarato che il progresso dell'IA crea un rischio che la tecnologia superi direttamente i controlli di sicurezza e la supervisione normativa.

Quando l'IA si costruisce da sé e cosa ciò non significa ancora

Tuttavia, Claude non ha ancora raggiunto il livello di miglioramento递归自我改进， whereby an AI would create and train its successor without requiring any human input. Secondo Anthropic, nessun sistema ha ancora ottenuto questa capacità.

Claude è già in grado di gestire gran parte degli sforzi di coding di Anthropic, pur non disponendo di piena autonomia. Entro maggio 2026, Claude aveva creato oltre l'80% del codice che gli ingegneri hanno contribuito a sviluppare nei progetti software dell'azienda. Nel secondo trimestre del 2026, un tipico ingegnere ha prodotto otto volte più codice al giorno rispetto al 2024.

Questi dati mostrano quanto sia cresciuto l'output di codifica, ma non necessariamente quanto lavoro utile venga effettivamente svolto. Una indagine citata da METR su 349 lavoratori tecnici ha rilevato un aumento mediano auto-segnalato del valore del proprio lavoro con strumenti di IA pari a 1,4–2 volte.

26% guidato da Claude, nessuno dei quali completamente autonomo

Claude ora fa più che scrivere codice. Le misurazioni di Anthropic di agosto hanno riscontrato che ha guidato il 26% dei compiti di ricerca e sviluppo di IA, in aumento rispetto a meno dell'1% di febbraio. Claude ha collaborato o guidato oltre il 90% del lavoro, ma gli esseri umani sono rimasti coinvolti in ogni fase. Nessuno dei lavori misurati è stato completamente autonomo.

La ricerca di Anthropic e il sondaggio METR misurano aspetti diversi. Anthropic monitora la generazione di codice e la ricerca condotta con l'aiuto di sistemi di IA, mentre METR misura come i lavoratori percepiscano l'aumento del valore del proprio lavoro. Tuttavia, nessuno dei due studi indica se l'IA sia in grado di determinare quali problemi di ricerca dovrebbero essere risolti.

Come questo potrebbe amplificarsi senza che alcun modello singolo migliori autonomamente

L'IA non deve essere completamente autonoma per fare ricerca più velocemente. Secondo un rapporto di RAND di ottobre, gli agenti IA possono creare modelli più robusti senza preoccuparsi di creare i propri successori. Possono già rappresentare una minaccia per la sicurezza grazie all'accesso a modelli e codice sensibili.

Secondo gli economisti di METR, potrebbero esserci restrizioni causate da fattori come la disponibilità dei dati, la potenza di calcolo e la capacità di condurre studi sperimentali. Tuttavia, non hanno escluso l'idea di un'accelerazione sostenuta dello sviluppo dell'IA

La questione è se revisioni di sicurezza indipendenti riescano a tenere il passo con gli esperimenti potenziati dall'IA. In caso contrario, la supervisione potrebbe rimanere indietro molto prima che giunga la piena autonomia.

Dal correre alla frontiera al controllarla

Questa preoccupazione ha spinto il CEO di Anthropic, Dario Amodei, a chiedere uno sviluppo più lento e valutatori indipendenti. Nel suo saggio di settembre, ha scritto:

«Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale»

La comunicazione del 16 settembre di OpenAI ha dettagliato sei casi di comportamenti problematici dei modelli. Anche Cryptopolitan ha riportato divisioni tra i leader tecnologici riguardo alla necessità di rallentare lo sviluppo dell'IA.

Ma concordare sulle preoccupazioni per la sicurezza non garantisce azioni concrete. CSIS ha avvertito che i valutatori esterni devono evitare conflitti di interesse. I governi devono anche vigilare contro la cattura regolamentare. Gli accordi a livello di settore rimangono incerti.

I soldi seguono la potenza di calcolo

Il dibattito comporta anche implicazioni finanziarie. L'Indice AI 2026 di Stanford ha rilevato che gli investimenti privati nell'IA sono aumentati del 127,5% nel 2025. Gli investimenti negli Stati Uniti sono stati 23 volte superiori a quelli della Cina. Anche l'OCSE avverte che l'accesso ai chip, alle infrastrutture cloud e ai dati rimane concentrato. Questo crea un paradosso. L'IA potrebbe rendere più economica la programmazione per la ricerca, ma l'addestramento e il test di modelli avanzati richiedono ancora ingenti investimenti. Uno sviluppo più rapido potrebbe quindi conferire ai laboratori leader un vantaggio ancora maggiore rispetto ai concorrenti più piccoli.