OpenAI avverte che i suoi modelli di intelligenza artificiale di prossima generazione potrebbero trasformarsi in strumenti di hackeraggio

Mercoledì la società dietro ChatGPT ha lanciato un duro avvertimento sui potenziali pericoli in agguato nella sua prossima ondata di sistemi di intelligenza artificiale, affermando che potrebbero rappresentare gravi minacce alla sicurezza informatica.

OpenAI ha affermato che i suoi futuri modelli di intelligenza artificiale potrebbero essere in grado di creare exploit zero-day funzionali, mirati a sistemi informatici altamente protetti. La tecnologia potrebbe anche contribuire a sferrare attacchi sofisticati contro aziende o impianti industriali, progettati per causare danni reali.

Le cose si stanno muovendo rapidamente. OpenAI ha menzionato nel suo blog che le prestazioni relative alle sfide di sicurezza del capture-the-flag sono balzate dal 27% su GPT-5 nell'agosto 2025 al 76% su GPT-5.1-Codex-Max appena tre mesi dopo, nel novembre 2025.

OpenAI ora presuppone che ogni nuovo modello che sviluppa possa raggiungere quelli che definisce livelli "elevati" di capacità di sicurezza informatica. Ciò significa sistemi in grado di creare exploit funzionanti per vulnerabilità precedentemente sconosciute in reti ben protette, o di supportare complesse campagne di intrusione mirate a infrastrutture critiche.

L'azienda, finanziata da Microsoft, ha dichiarato di investire nel miglioramento dei propri modelli per la sicurezza difensiva. L'azienda sta sviluppando strumenti per aiutare i team di sicurezza a verificare la presenza di problemi nel codice e a correggere falle di sicurezza. OpenAI vuole dare un vantaggio ai difensori, che di solito sono in inferiorità numerica e hanno poche risorse.

Ed è qui che le cose si complicano. Le attività di sicurezza informatica difensiva e offensiva utilizzano le stesse conoscenze e gli stessi metodi di base. Ciò che aiuta chi difende potrebbe facilmente aiutare anche chi attacca. OpenAI afferma di non poter contare su un'unica misura di protezione. Ha bisogno di livelli di controllo di sicurezza che lavorino insieme.

L'azienda sta utilizzando restrizioni di accesso, unatronsicurezza dell'infrastruttura, controlli sul flusso di informazioni e un monitoraggio costante. Sta inoltre addestrando modelli per rifiutare richieste che potrebbero consentire attacchi informatici, mantenendoli al contempo utili per attività di sicurezza e formazione legittime.

I sistemi di rilevamento monitorano le attività sospette nei prodotti utilizzando modelli avanzati. Quando qualcosa sembra pericoloso, il sistema blocca i risultati, passa a un modello più debole o lo segnala per la revisione umana.

Testare i limiti

OpenAI collabora con gruppi specializzati in test di sicurezza che cercano di superare tutte le sue difese. Simulano il modo in cui un aggressore determinato e dotato di notevoli risorse potrebbe agire. Questo aiuta a individuare i punti deboli prima che le minacce reali lo facciano.

I rischi per la sicurezza informatica derivanti dall'intelligenza artificiale preoccupano gli operatori di tutto il settore. Come riportato in precedenza da Cryptopolitan , gli hacker utilizzano già le tecnologie di intelligenza artificiale per migliorare i loro attacchi.

L'azienda sta pianificando un programma che offra agli utenti qualificati che lavorano nel campo della difesa informatica un accesso speciale alle funzionalità avanzate dei suoi modelli più recenti. OpenAI sta ancora valutando quali funzionalità possano essere ampiamente disponibili e quali necessitino di restrizioni più severe.

Poi c'è Aardvark. Questo strumento di sicurezza, utilizzato per i test privati, aiuta sviluppatori e team di sicurezza a individuare e correggere le vulnerabilità su larga scala. Analizza il codice alla ricerca di punti deboli e suggerisce soluzioni. Il sistema ha già scoperto nuove vulnerabilità in software open source. OpenAI prevede di investire risorse significative nel rafforzamento dell'intero ecosistema della sicurezza. Ciò include l'offerta di copertura gratuita ad alcuni progetti open source non commerciali.

OpenAI creerà il Frontier Risk Council, che riunirà esperti di sicurezza informatica e professionisti. Il gruppo inizierà con la sicurezza informatica, ma si espanderà ad altri ambiti. I membri del Consiglio contribuiranno a definire i confini tra capacità utili e potenziali abusi.

La sicurezza resta una sfida

L'azienda collabora con altre aziende leader nel settore dell'intelligenza artificiale attraverso il Frontier Model Forum. Questa organizzazione no-profit si impegna a sviluppare una comprensione condivisa delle minacce e delle best practice. OpenAI ritiene che i rischi per la sicurezza derivanti dall'intelligenza artificiale avanzata possano provenire da qualsiasi importante sistema di intelligenza artificiale del settore.

Una recente ricerca ha dimostrato che gli agenti di intelligenza artificiale possono scoprire vulnerabilità zero-day del valore di milioni negli smarttracblockchain. Ciò evidenzia come queste capacità avanzate siano efficaci in entrambi i sensi.

OpenAI ha lavorato per rafforzare le proprie misure di sicurezza, ma l'azienda ha dovuto affrontare problemi interni. In passato, l'azienda ha dovuto affrontare numerose violazioni della sicurezza. Questo dimostra quanto sia difficile proteggere i sistemi e le infrastrutture di intelligenza artificiale.

L'azienda afferma che si tratta di un lavoro in corso. L'obiettivo è offrire vantaggi ai difensori e rafforzare la sicurezza delle infrastrutture critiche nell'intero ecosistema tecnologico.