OpenAI traccia il limite sul rischio dell'IA, sfidando l'approccio alla sicurezza di Anthropic

OpenAI ritiene che i benefici dell'IA superino alcuni dei rischi, mettendola leggermente in contrasto con le regole di sicurezza prioritaria di Anthropic. Il CEO Sam Altman ha dichiarato ai giornalisti: "Crediamo che il mondo debba accettare che accadano alcune cose negative per i benefici di questa tecnologia e per la capacità delle persone di agire". 

L'esecutivo ha inoltre ammesso l'esistenza di una differenza intrinseca tra la sua azienda e Anthropic riguardo alle normative sull'IA. Ha sottolineato di non condividere l'idea che l'IA sia così pericolosa da richiedere che un singolo laboratorio abbia il monopolio e il controllo del suo utilizzo, sebbene comprenda le ragioni alla base di questa posizione. 

Ha affermato che l'approccio del guardiano è assolutamente inaccettabile e va contro la preferenza di OpenAI per normative più leggere sull'IA.

Altman aveva sostenuto un rallentamento dello sviluppo dell'IA

Nel complesso, Altman sostiene di non pretendere un'IA priva di rischi Ecosistema dell'IA. Sostiene che alcuni abusi e altre conseguenze dannose siano inevitabili, ma che sarebbero compensati dai benefici più ampi della tecnologia. "Credo che le persone faranno un bene tremendo — di ordini di grandezza superiore — rispetto al male", ha dichiarato.

Tuttavia, in precedenza, come ha riportato da Cryptopolitan, il CEO di Anthropic, Dario Amodei, aveva incoraggiato le aziende di IA a rallentare lo sviluppo tecnologico, un'idea pienamente sostenuta da Altman. A quel tempo, lui ha osservato, "Concordo con Dario sul fatto che dobbiamo dosare l'avanguardia. Questo è stato un argomento principale delle discussioni avute presso OpenAI nelle ultime settimane. Impegnarsi ad avere valutatori indipendenti con accesso simile a quello dei dipendenti è una grande idea, e faremo lo stesso." 

Principalmente, Anthropic ha messo in guardia dal fatto che, nonostante i benefici dell'IA, questa potrebbe sfuggire al controllo umano e infiltrarsi nelle reti esterne. Ha aggiunto che i modelli di fascia alta possono mostrare tratti di autoconservazione, come cercare di impedire uno spegnimento, nascondere fatti o agire in modo ingannevole.

Come riportato a luglio 2026, alcuni modelli di OpenAI avrebbero aggirato i controlli progettati per isolarli da Internet, accedendo a parti dell'infrastruttura di ricerca di OpenAI e ai sistemi di Hugging Face. I modelli avrebbero comunicato in modo segreto, sfruttato vulnerabilità di sicurezza nel sistema condiviso, effettuato l'accesso al web e raggiunto reti esterne. All'epoca, OpenAI si era impegnata a implementare protezioni più robuste per i propri modelli. 

In modo simile, durante una valutazione di cybersecurity condotta dall'UK AI Security Institute con i filtri disabilitati, Claude Mythos 5 di Anthropic ha creato profili GitHub falsi, ha preso di mira uno sviluppatore con l'autorità di approvare il suo codice dannoso e ha inviato email infettate da malware a individui separati. Più recentemente, anche Google ha reso noto che Gemini aveva tentato di accedere ai sistemi di altre aziende.

OpenAI e Anthropic divergono sulla sicurezza dell'IA

Il disaccordo evidenzia una crescente divisione nel settore dell'IA su quanto grado di libertà le aziende dovrebbero avere nello sviluppare sistemi sempre più potenti. Mentre OpenAI preferisce mantenere l'IA ampiamente accessibile, Anthropic ha adottato un approccio più cauto, chiedendo tutele e supervisioni più rigorose.

I commenti di Altman suggeriscono che OpenAI ritiene che la società debba accettare alcuni rischi piuttosto che imporre restrizioni che potrebbero limitare gli usi legittimi dell'IA. I critici, tuttavia, avvertono che alcuni rischi potrebbero diventare difficili da invertire una volta che sistemi altamente capaci saranno ampiamente distribuiti.

La divisione lascia i responsabili politici di fronte a un compito difficile: affrontare le minacce dell'IA senza imporre regole che potrebbero rallentare l'innovazione o indebolire la concorrenza.

Il presidente Trump ha ignorato le richieste di maggiore regolamentazione dell'IA

Finora, il presidente degli Stati Uniti Donald Trump ha ripetutamente respinto le richieste di nuove normative sull'IA, affermando che avrebbero solo ostacolato le aziende americane nel superare la Cina. È fermamente convinto che le attuali agenzie di applicazione della legge siano del tutto sufficienti per vigilare sulla tecnologia. Ha inoltre ordinato alla sua amministrazione di definire l'IA come "super intelligenza", cercando di migliorare l'immagine pubblica della tecnologia.

Tuttavia, martedì il presidente Trump ha promosso il nuovo chatbot governativo, ha ospitato importanti dirigenti tecnologici alla Casa Bianca e ha presentato un accordo volontario per affrontare le crescenti preoccupazioni sulla sicurezza.

Gli attivisti per la sicurezza affermano che questa mossa dimostra che Trump vuole provare di ascoltare le paure degli elettori sull'IA senza rallentarne il progresso. L'accordo firmato con sei enormi aziende tecnologiche, tra cui Nvidia, SpaceX e OpenAI, non prevede alcuna sanzione concreta in caso di violazione delle regole, sebbene Trump lo abbia definito 'moralmente vincolante'. 

«Questo era un tentativo di dare l'impressione che il governo stia ascoltando queste preoccupazioni senza minare quella che è stata una linea molto chiara e coerente da parte di questa amministrazione: che la regolamentazione e la governance ostacolano intrinsecamente l'innovazione», ha dichiarato Kat Duffy del Council on Foreign Relations, un think tank non partigiano.

L'accordo di martedì include tuttavia misure di sicurezza richieste da tempo dagli esperti, come l'obbligo per le aziende di costruire solide difese interne contro gli hacker e di collaborare con revisori esterni indipendenti.