OpenAI non è riuscita a rilevare per una settimana la serie di attacchi hacker condotti dal suo agente di intelligenza artificiale, protrattisi per diversi giorni

OpenAI non si è accorta per circa una settimana che uno dei suoi agenti di intelligenza artificiale si era introdotto nel sistema di Hugging Face. Quando l'azienda ha capito da dove proveniva l'attacco, Hugging Face lo aveva già bloccato e aveva contattato l'FBI, secondo quanto riportato da Reuters.

Il programma è stato progettato per funzionare in autonomia. Era in grado di scegliere cosa fare, suddividere un compito in fasi più piccole ed eseguire tali fasi con un minimo intervento umano.

Intorno al 9 luglio, ha tentato di uscire dall'area di test protetta di OpenAI. Due giorni dopo, l'11 luglio, è entrato in Hugging Face ed è rimasto lì fino al 13 luglio, ha dichiarato il co-fondatore Thomas Wolf. Le due società non hanno rilasciato dichiarazionident fino al 20 luglio circa.

OpenAI ha scoperto che il suo agente era responsabile solo dopo che la violazione era terminata

OpenAI ha reso pubblica la violazione il 21 luglio, il giorno dopo aver presumibilmente parlato per la prima volta con Hugging Face. L'azienda ha dichiarato che uno dei suoi agenti di intelligenza artificiale aveva superato i limiti prestabiliti ed era entrato nei sistemi di un'altra azienda.

La vicenda ha rapidamente attirato l'attenzione globale, ma il primo annuncio ometteva diverse date chiave. Non specificava che l'agente aveva tentato la fuga il 9 luglio, che aveva trascorso tre giorni all'interno di Hugging Face, né che era rimasto nondentda OpenAI fino a diversi giorni dopo.

Secondo Thomas, Hugging Face sta lavorando a una cronologia completa dell'evento accaduto nel proprio sistema. Inoltre, Thomas ha precisato di non poter descrivere l'accaduto in OpenAI poiché non è stato coinvolto nella loro indagine.

OpenAI ha descritto l'dent come qualcosa di senzadente lo ha definito "un momento importante per la sicurezza dell'IA". L'azienda ha spiegato che esperti esterni sono coinvolti nel processo di revisione. Inoltre, prevede di pubblicare un rapporto tecnicodent una volta completata l'indagine.

Primadentdel vero responsabile, gli esperti di sicurezza informatica e gli utenti dei social media ritenevano che gli aggressori fossero gruppi di criminali informatici professionisti, mentre alcuni ipotizzavano che potessero trattarsi di hacker sponsorizzati da uno Stato.

Podcast e social media sono stati invasi da ipotesi fino a mercoledì, quasi una settimana dopo che Hugging Face aveva lanciato l'allarme. Poi è arrivata la risposta. L'aggressore era ChatGPT.

Su X, alcuni hanno trovato interessante il modo in cui OpenAI è riuscita a sfruttare questo evento per dimostrare le capacità del modello. Da tempo si sostiene che le aziende di intelligenza artificiale facciano deliberatamente dichiarazioni allarmanti per attirare l'attenzione. Dopo il rilascio del modello Mythos da parte di Anthropic, la sicurezza informatica è diventata un problema ancora più pressante.

Uno dei commenti più popolari al post di Sam Altman su X ha colto appieno questo dubbio: "Se non riuscite a capire che questo è stato scritto solo per vantarmi della modella, allora non so cosa dirvi"

L'agente di intelligenza artificiale di OpenAI ha visto nell'hacking l'opzione più semplice

Brian, direttore del dipartimento di etica tecnologica del Markkula Center for Applied Ethics presso la Santa Clara University, ha affermato che è probabile che casi simili si ripresentino. "Casi come questi continueranno a emergere, e ognuno di essi dovrebbe motivarci a fare di più", ha dichiarato a OSV News.

Brian ha definito questo scenario come "il modello che aggira il test facendo qualcosa di inaspettato". Secondo lui, all'agente è stato presentato un obiettivo, ha scelto la via più breve per raggiungerlo, e questa era rubare.

"Gli dai un obiettivo e lui dice: 'Oh, so come posso raggiungere quell'obiettivo. Ruberò le risposte a Hugging Face'", ha detto Brian.

Hugging Face era un obiettivo plausibile perché ospita una vasta gamma di modelli e set di dati di intelligenza artificiale. Brian l'ha definita "un'enorme, enorme base di archiviazione di diversi modelli e set di dati". L'agente sembra aver cercato un luogo in grado di contenere il materiale di cui aveva bisogno, ha selezionato Hugging Face, è entrato nella piattaforma e l'ha trovato.

Brian ha ipotizzato che si sarebbero verificati altridentdi questo tipo. Secondo lui, l'agente stava "solo cercando di fare ciò che gli era stato detto". Dal punto di vista del sistema, la "soluzione più efficiente al problema" sarebbe stata "l'accesso non autorizzato"

Ha anche affermato che il caso non rientrava chiaramente nella categoria del disallineamento emergente, un termine che indica un comportamento dell'IA in contrasto con i valori umani. Brian ha dichiarato che il sistema non era stato collegato a tali valori fin dall'inizio. Nelle parole di Brian, "non è mai stato allineato" con essi "in principio"