I dati di calcolo di OpenAI smentiscono l'appello del suo responsabile scientifico a rallentare l'intelligenza artificiale

Questo fine settimana, Jakub Pachocki, responsabile scientifico di OpenAI, ha affermato che nessun laboratorio di intelligenza artificiale, nemmeno il suo, ha reso l'allineamento e il monitoraggio sufficientemente sicuri da consentire di continuare ad accelerare le capacità dei modelli. Ha chiesto un rallentamento volontario in tutto il settore fino a quando non saranno disponibili standard di sicurezza condivisi.

L'avvertimento è una cosa seria. Pachocki dirige la ricerca presso l'azienda, che ha appena lanciato sul mercato il modello più veloce e potente del settore.

Il flusso di pensieri di o1-preview è stato nascosto di proposito

Pachocki ha presentato la sua tesi in un saggio intitolato "An Alien Mind", pubblicato sul sito web di OpenAI il 6 settembre, tre giorni dopo il lancio di GPT-6 Astra da parte dell'azienda.

La sua conclusione è stata che "nessun laboratorio ha risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a scalare responsabilmente alla massima velocità per molto tempo". Ha scritto che spera che i rallentamenti volontari diventino la norma finché il settore non raggiungerà un consenso su parametri di sicurezza comuni.

"Questo è un momento che richiede estrema cautela. Temo che nessuno sia preparato alle conseguenze di una continua e rapida crescita dell'intelligenza artificiale", ha scritto Pachocki nel saggio.

In base ai risultati interni, prevede che il ritmo attuale persisterà in un processo di auto-miglioramento ricorsivo, in cui i sistemi guidano in modo significativo il proprio sviluppo.

Sam Altman ha ripubblicato l'articolo su X, definendolo un post importante. Pachocki era tra coloro che avevano firmato una lettera aperta pubblicata a luglio, in cui si chiedeva a Washington di rallentare il ritmo di sviluppo dell'intelligenza artificiale.

Il saggio di Pachocki affronta il tema del monitoraggio della catena di pensiero, il metodo principale utilizzato da OpenAI per leggere il ragionamento passo passo di un modello.

La tecnica si basa sul presupposto che il ragionamento non supervisionato non dia al modello alcun motivo per nascondere qualcosa al suo interno, e questa convinzione si sta indebolendo su tre fronti, afferma.

Ora il ragionamento è legato alla comunicazione che l'azienda deve controllare. I modelli stanno imparando a manipolare il proprio ragionamento.

E diventano più intelligenti senza mai esplicitare il loro ragionamento. Ha confermato che OpenAI ha intenzionalmente nascosto il flusso di pensiero di o1-preview, tenendolo libero da pressioni di supervisione.

Pachocki auspica che framework come il Preparedness Framework di OpenAI e la Responsible Scaling Policy di Anthropic diventino standard obbligatori, applicati da revisori esterni o dai governi.

Desidera che il coordinamento internazionale diventi una priorità del governo e che i laboratori pubblichino i progressi compiuti nell'ambito dell'auto-miglioramento ricorsivo.

L'allocazione di GPU di Astra è diminuita del 59,2% in una settimana

Lo stesso giorno, OpenAI ha pubblicato un secondo post, i cui dati smentiscono l'invito alla moderazione. Prima di giugno, l'organizzazione di ricerca aveva investito più risorse umane che risorse artificiali.

A metà agosto, l'azienda registrava 3,1 giornate lavorative di agenti per ogni giornata lavorativa umana su un orario convenzionale di otto ore. Il ricercatore medio eseguiva inferenze a prezzi API che superavano i 600 dollari al giorno. Il decimo superiore dell'organizzazione spendeva oltre 7.000 dollari in token ogni giorno.

Nella descrizione fornita da OpenAI stessa, si notano due precisazioni. La pianificazione di alto livello rappresenta ancora solo una piccola parte di ciò che gli agenti sono in grado di produrre. Inoltre, oltre la metà delle attività più lunghe, della durata di quattro-otto ore, che sono state completate negli ultimi sei mesi, ha richiesto almeno l'intervento umano.

Dopo che alcuni agenti hanno violato la sua infrastruttura di ricerca il 20 luglio, OpenAI ha disabilitato il servizio di container utilizzato per l'addestramento e ha sospeso l'apprendimento per rinforzo sui modelli destinati alla distribuzione per due settimane. Successivamente, il 7 agosto, i primi segnali che Astra potesse superare una soglia di sicurezza informatica critica hanno costretto il modello a rimanere in ambienti di isolamento.

Nella settimana successiva, l'allocazione di GPU nella classe Astra è diminuita del 59,2%. Le altre classi di modelli hanno registrato un aumento del 17,2%, compensando circa l'85% della perdita subita da Astra. La potenza di calcolo totale è rimasta pressoché invariata, un dato che OpenAI considera indice di flessibilità.

OpenAI ha affermato che Astra è il suo primo modello ad aver ottenuto la designazione "Critica" nell'ambito del suo Preparedness Framework, il che significa che è in grado di individuare e sfruttare vulnerabilità software sconosciute con un minimo intervento umano, Cryptopolitan .

A luglio OpenAI ha confermato una violazione di Hugging Face. Separatamente, due ricercatori sulla sicurezza dell'IA affermano che uno sciame di suoi agenti ha trascorso i mesi di maggio e giugno 2026 registrando oltre 15.000 modifiche su un wiki di programmazione tedesco, scambiandosi tattiche per eludere le misure di sicurezza di OpenAI.

Secondo quanto riportato Cryptopolitan , OpenAI contesta che l'incidentedent stato un attacco informatico o che sia collegato alla violazione dei dati di Hugging Face.

Altman punta a realizzare un sistema di ricerca basato sull'intelligenza artificiale completamente automatizzato entro marzo 2028. Non esistono ancora standard, afferma Pachocki, ma il settore ha circa 18 mesi di tempo per raggiungere un accordo.