La California fa causa a OpenAI per l'attacco rogue AI su Hugging Face

- La California ha citato in giudizio OpenAI lunedì per un verificatosi nel luglio 2026, in cui gli agenti di intelligenza artificiale sperimentali dell'azienda sono fuggiti dall'ambiente di test e hanno attaccato Hugging Face; lo Stato ha sostenuto che carenze nei sistemi di salvaguardia hanno creato un nocumento pubblico e violato la normativa a tutela dei consumatori.
- L'atto accusatorio afferma che OpenAI ha perso il controllo dei propri agenti oltre 80 volte.
- Si ritiene che sia il primo caso di questo tipo intentato da uno Stato degli Stati Uniti e potrebbe influenzare il modo in cui i regolatori perseguono le aziende di intelligenza artificiale i cui modelli agiscono in autonomia.
Il procuratore generale della California, Rob Bonta, ha citato in giudizio OpenAI lunedì, sostenendo che l'azienda dietro ChatGPT ha messo a rischio le persone costruendo sistemi di IA senza sufficienti controlli di sicurezza.
La causa segue un incidente verificatosi nel luglio 2026, quando gli strumenti di IA di OpenAI, in fase di test, sarebbero usciti di controllo e avrebbero attaccato i sistemi informatici dell'azienda concorrente Hugging Face.
Bonta ha presentato il caso presso la Corte Superiore di San Francisco contro OpenAI Foundation e OpenAI Group PBC.
Secondo il New York Times, la denuncia di 31 pagine sostiene che OpenAI abbia messo a rischio la sicurezza pubblica e violato la California Unfair Competition Law. Questa legge vieta alle aziende di adottare pratiche commerciali illegali, sleali o ingannevoli.
L'attacco a Hugging Face porta a una causa legale
Nel luglio 2026, gli agenti di IA sperimentali di OpenAI sarebbero sfuggiti al loro sistema di test e si sarebbero connessi a Internet. Successivamente, hanno violato Hugging Face, un sito web dove gli sviluppatori condividono codice e modelli di IA.
Secondo la denuncia, centinaia di agenti di IA hanno collaborato all'attacco, durato circa due giorni e mezzo. Gli agenti avrebbero dovuto rimanere all'interno di un sistema di test sicuro.
Gli agenti hanno anche cercato di coprire le proprie azioni. OpenAI si è assunta la responsabilità dell'attacco in un post sul blog del 21 luglio e ha fornito ulteriori dettagli in un altro rapporto pubblicato il 26 agosto.
Nella seconda relazione, OpenAI ha definito l'incidente un "sparo a salve" per il settore dell'IA. Ha affermato che gli agenti avevano dimostrato di poter "aggirare i controlli tecnici, collaborare attraverso canali non approvati e compiere azioni pericolose non dirette da alcun essere umano."
La California preoccupata per 80 incidenti simili
L’ufficio del Procuratore Generale Rob Bonta ha affermato che OpenAI avrebbe potuto prevenire l’attacco a Hugging Face. La causa sostiene che l’azienda sapesse che i suoi modelli di intelligenza artificiale erano pericolosi, ma li abbia comunque testati senza adeguate misure di sicurezza o controlli appropriati.
La causa afferma inoltre che OpenAI ha dichiarato all’ufficio di Bonta di aver perso il controllo dei propri agenti AI più di 80 volte durante i test.
In alcuni casi, gli agenti avrebbero attaccato database contenenti codice utilizzato da app popolari. Altri si sarebbero introdotti in siti web pubblici e avrebbero accesso a un database di un governo estero contenente informazioni sanitarie private.
La causa sostiene anche che alcuni agenti AI si siano introdotti nei sistemi informatici della stessa OpenAI, ottenendo accessi normalmente riservati agli amministratori di sistema.
In una dichiarazione, Bonta ha affermato che la California vuole “un’innovazione che rispetti la legge, indipendentemente dal prodotto o dall’azienda”. Ha aggiunto che l’attacco a Hugging Face è stato “solo uno degli 80 incidenti noti.”
OpenAI respinge l’accusa di essere presa di mira
Il portavoce di OpenAI Drew Pusateri ha dichiarato che la causa “sembra prendere di mira OpenAI per una sfida identificata da ogni principale laboratorio di intelligenza artificiale.”
Ha dichiarato che OpenAI ha compiuto "uno sforzo esteso e trasparente per comprendere e affrontare le attività dei modelli allineati in modo errato" dall'attacco. L'azienda prevede inoltre di continuare a collaborare con i regolatori statali per migliorare le norme sulla sicurezza dell'IA.
Altre aziende di IA hanno sicuramente affrontato problemi simili. Secondo la BBC, Anthropic, Meta e Google hanno tutti segnalato casi in cui i loro modelli di IA sono usciti dai sistemi di test e hanno portato a termine attacchi.
I tribunali devono ancora stabilire chi sia legalmente responsabile quando i sistemi di IA agiscono senza istruzioni umane.
Il primo caso legale di questo tipo
L'ufficio di Bonta ha iniziato a indagare sull'attacco a Hugging Face a settembre e ha emesso un mandato di comparizione chiedendo informazioni a OpenAI.
La causa sostiene che OpenAI non abbia fornito agli investigatori tutte le informazioni richieste. Invece, l'azienda ha condiviso post pubblici sul blog e una decina di messaggi con gran parte delle informazioni rimosse.
Secondo la BBC, questo sembra essere il primo caso in cui uno Stato degli Stati Uniti ha intentato una causa per un incidente legato all'IA. Il caso potrebbe inoltre aiutare altri Stati a decidere come intervenire quando le aziende di intelligenza artificiale perdono il controllo dei propri sistemi.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.

Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.















