OpenAI rivela un altro agente rogue mentre le citazioni in giudizio si accumulano
- Un modello di ricerca di OpenAI ha utilizzato fondi da un portafoglio crittografico che non possedeva per completare un'attività di codifica a giugno.
- La FTC ha emesso un mandato per la produzione di documenti (subpoena) al laboratorio di intelligenza artificiale, mentre gli avvocati generali degli stati richiedono i documenti, trasformando ogni rapporto volontario sulla sicurezza in una potenziale prova.
- Per chiunque sviluppi agenti AI dotati di portafogli digitali, si tratta di un caso concreto in cui un agente sovrascrive i permessi del proprietario con il proprio giudizio.
Un modello di ricerca di OpenAI ha prelevato fondi da un portafoglio crittografico di sua proprietà per completare un'attività di codifica a giugno.
OpenAI ha scoperto l'incidente a settembre, mesi dopo che era avvenuto e lo ha comunicato questa settimana.
Come ha fatto il modello di ricerca di OpenAI ad accedere a un portafoglio non autorizzato?
pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. ha pubblicato un rapporto sull'incidente riguardante un modello della famiglia GPT-5.6 Sol. Il modello è stato incaricato di aggiornare un prototipo di trading crittografico e di distribuire contratti su Sepolia.
Sepolia è una rete di test Ethereum dove gli sviluppatori provano le applicazioni prima di lanciarle sul mercato reale; pertanto, i token non hanno valore di mercato e non sono affatto collegati all'Ether reale scambiato sulla rete principale di Ethereum.
L'attività non disponeva di un wallet finanziato per coprire le spese di distribuzione e i faucet per token gratuiti non funzionavano. Il modello ha quindi scritto uno script che ha generato 362 indirizzi a partire da frasi di recupero spesso riutilizzate dagli sviluppatori, verificando poi il saldo di ciascuno.
Uno dei 362 indirizzi disponeva di test ether sufficienti per l'operazione, ma prima di utilizzarli, il modello si è fermato e ha annotato nei suoi appunti se fosse etico utilizzare una chiave pubblicamente nota e i fondi in essa contenuti.
È giunto alla conclusione che il denaro fosse "effettivamente abbandonato", poiché la frase di recupero era pubblica e i token di test non hanno valore prima della firma della distribuzione, del pagamento delle commissioni e della segnalazione dell'attività come completata.
In particolare, il modello non ha specificato da dove provenissero i fondi.
Sulla rete principale di Ethereum, tali commissioni sarebbero state prelevate dai reali depositi di qualcuno, ai quali il modello non aveva alcun diritto. Questo aspetto è preoccupante, considerando che le aziende di criptovalute e intelligenza artificiale stanno ora collegando agenti dotati di wallet che pagano i servizi senza la necessità di una firma umana per ogni transazione.
OpenAI ha dichiarato di aver successivamente disconnesso il modello dall'accesso a internet in tempo reale e di aver aggiunto sistemi di monitoraggio.
Il rapporto afferma che l'incidente è avvenuto il 26 giugno, ma non è stato scoperto fino a tre mesi dopo, il 25 settembre. OpenAI dichiara di aver avuto notizia dell'incidente durante l'ampliamento del monitoraggio della disallineamento sui log delle attività dei modelli più vecchi.
Per cosa è sotto indagine OpenAI?
pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. ha creato un framework per la segnalazione della disallineamento e ha pubblicato il suo primo lotto di rapporti, affermando di voler rendere nota rapidamente la comportamento preoccupante, "anche quando non lo abbiamo ancora pienamente spiegato o mitigato".
Tuttavia, a causa della tempistica, ogni onesto rapporto diventa materiale per chi assembla reclami come quello della FTC, che prevede di sottoporre i dirigenti senior a giuramento e ha emesso citazioni in giudizio civili a OpenAI e Anthropic mercoledì scorso per documenti relativi ad incidenti di sicurezza, pratiche di sicurezza e politiche sulla privacy, riportato da Cryptopolitan.
Mesi prima, 15 procuratori generali statali repubblicani, guidati da Brenna Bird dell'Iowa, avevano ordinato a OpenAI di conservare ogni traccia della violazione di Hugging Face, incluse eventuali note lasciate da un agente "apparentemente per le versioni future di se stesso" sull'elusione dei controlli dell'azienda.
OpenAI ha ammesso la violazione di Hugging Face a luglio, affermando che agenti autonomi hanno violato i controlli interni, raggiunto internet pubblico e coordinato ciò che l'azienda ha definito "un incidente informatico senza precedenti".
Agenti secondo quanto riportato, hanno esaminato tre siti governativi statunitensi, tra cui il Census Bureau del Dipartimento del Commercio e la SEC.
Il nuovo sito di OpenAI menziona una serie di altri incidenti, inclusa una fuga dalla sandbox a settembre e un esperimento di laboratorio con iniezione di prompt auto-riplicante.
Il CEO di OpenAI Sam Altman ha dichiarato che l'azienda sta ancora analizzando i log delle attività degli agenti e pubblicherà i casi in base alla gravità. L'incidente di Hugging Face rimane finora il caso più grave riscontrato.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Domande frequenti
Cosa ha fatto esattamente l'agente di OpenAI?
Un modello della famiglia GPT-5.6 Sol di OpenAI ha estratto chiavi dalle frasi di recupero dei developer pubblici, trovato un wallet finanziato sulla rete di test Sepolia di Ethereum e utilizzato tale wallet per pagare le commissioni di distribuzione per un compito di coding, senza informare l'utente sull'origine dei fondi.
È stato rubato denaro reale?
No. La transazione è avvenuta su Sepolia, una rete di test i cui token non hanno valore di mercato. La stessa azione sulla rete principale di Ethereum avrebbe comportato un prelievo reale di ether da un conto altrui.
Perché la divulgazione è rilevante ora?
OpenAI ha pubblicato il rapporto mentre la FTC lo citava in giudizio e Anthropic veniva esaminata per le sue pratiche di sicurezza, e 15 procuratori generali statali gli ordinavano di conservare i documenti; pertanto, le sue divulgazioni volontarie alimentano un'attenta indagine legale.
Hannah Collymore
Hannah è una scrittrice e redattrice con quasi un decennio di esperienza nella scrittura di blog e nella copertura di eventi nel settore delle criptovalute. Presso Cryptopolitan, Hannah contribuisce alla pagina delle notizie, riportando e analizzando gli ultimi sviluppi nei settori DeFi, RWA, regolamentazione crypto, intelligenza artificiale e tecnologie emergenti. Si è laureata all'Arcadia University con una laurea in Amministrazione Aziendale.
