OpenAI avverte che i suoi modelli AI di prossima generazione potrebbero diventare strumenti per hacker

L'azienda dietro ChatGPT ha emesso un netto avvertimento mercoledì sui potenziali pericoli nascosti nella sua prossima ondata di sistemi di intelligenza artificiale, affermando che potrebbero presentare gravi minacce alla cybersecurity.

OpenAI ha dichiarato che i suoi futuri modelli di IA potrebbero essere in grado di creare exploit zero-day funzionali che prendono di mira sistemi informatici fortemente protetti. La tecnologia potrebbe anche aiutare a portare a termine attacchi sofisticati contro aziende o strutture industriali progettati per causare danni nel mondo reale.

Le cose si muovono rapidamente. Nel suo blog OpenAI ha menzionato che le prestazioni nelle sfide di sicurezza capture-the-flag sono passate dal 27% su GPT-5 ad agosto 2025 al 76% su GPT-5.1-Codex-Max solo tre mesi dopo, a novembre 2025.

OpenAI ora assume che ogni nuovo modello che costruisce possa raggiungere livelli di capacità di cybersecurity "alti". Questo significa sistemi in grado di creare exploit funzionanti per vulnerabilità precedentemente sconosciute in reti ben protette, o di aiutare con campagne di intrusione complicate che prendono di mira le infrastrutture critiche.

L'azienda sostenuta da Microsoft ha dichiarato che sta investendo nel rendere i suoi modelli migliori nel lavoro di sicurezza difensiva. L'azienda sta costruendo strumenti per aiutare i team di sicurezza a controllare il codice alla ricerca di problemi e a risolvere le falle di sicurezza. OpenAI vuole dare un vantaggio ai difensori poiché di solito sono in inferiorità numerica e carenti di risorse.

Ecco dove si fa complicato. Il lavoro di cybersecurity difensivo e offensivo utilizza le stesse conoscenze e metodi di base. Ciò che aiuta i difensori potrebbe altrettanto facilmente aiutare gli attaccanti. OpenAI dice che non può fare affidamento su una singola misura protettiva. Ha bisogno di livelli di controlli di sicurezza che lavorino insieme.

L'azienda sta utilizzando restrizioni di accesso, maggiore sicurezza delle infrastrutture, controlli sul flusso di informazioni e monitoraggio costante. Sta anche addestrando i modelli a rifiutare le richieste che potrebbero abilitare attacchi informatici, mantenendoli utili per il lavoro di sicurezza legittimo e l'educazione.

I sistemi di rilevamento monitorano le attività sospette su tutti i prodotti utilizzando modelli avanzati. Quando qualcosa sembra pericoloso, il sistema blocca i risultati, passa a un modello più debole o lo segnala per la revisione umana.

Testare i limiti

OpenAI lavora con gruppi specializzati di test di sicurezza che cercano di superare tutte le sue difese. Simulano il modo in cui un attaccante determinato con risorse serie potrebbe operare. Questo aiuta a trovare punti deboli prima che lo facciano le minacce reali.

I rischi per la cybersecurity derivanti dall'IA preoccupano le persone in tutto il settore. Come riportato precedentemente da Cryptopolitan, gli hacker utilizzano già tecnologie IA per migliorare i loro attacchi.

L'azienda prevede un programma che offre agli utenti qualificati che lavorano sulla difesa della cybersecurity un accesso speciale a funzionalità potenziate nei suoi modelli più recenti. OpenAI sta ancora lavorando per determinare quali funzionalità possono essere ampiamente disponibili e quali necessitano di restrizioni più strette.

Poi c'è Aardvark. Questo strumento di sicurezza in test privato aiuta gli sviluppatori e i team di sicurezza a trovare e risolvere le vulnerabilità su larga scala. Scansiona il codice alla ricerca di debolezze e suggerisce correzioni. Il sistema ha già scoperto nuove vulnerabilità nel software open source. OpenAI pianifica di dedicare risorse significative al rafforzamento dell'ecosistema di sicurezza più ampio. Questo include l'offerta di copertura gratuita ad alcuni progetti open source non commerciali.

OpenAI creerà il Frontier Risk Council. Questo riunisce difensori e professionisti esperti di cybersecurity. Il gruppo inizia con la cybersecurity ma si espanderà ad altre aree. I membri del Consiglio aiutano a determinare i confini tra capacità utili e potenziale abuso.

La sicurezza rimane una sfida

L'azienda lavora con altre importanti aziende di IA attraverso il Frontier Model Forum. Questa organizzazione non profit sviluppa una comprensione condivisa delle minacce e delle migliori pratiche. OpenAI ritiene che i rischi per la sicurezza derivanti dall'IA avanzata potrebbero provenire da qualsiasi importante sistema di IA del settore.

Ricerche recenti hanno dimostrato che gli agenti IA possono scoprire vulnerabilità zero-day valutate milioni di dollari negli smart contract blockchain. Questo evidenzia come queste capacità in evoluzione funzionino in entrambi i sensi.

OpenAI ha lavorato per rafforzare le proprie misure di sicurezza, ma l'azienda ha affrontato i suoi stessi problemi. L'azienda ha affrontato più violazioni della sicurezza in passato. Questo mostra quanto sia difficile proteggere i sistemi IA e le infrastrutture.

L'azienda dice che questo è un lavoro in corso. L'obiettivo è dare ai difensori vantaggi e rafforzare la sicurezza delle infrastrutture critiche in tutto l'ecosistema tecnologico.