OpenAI presenta un rapporto di incidente all'UE per il wiki tedesco hijackato
- OpenAI ha presentato un rapporto di incidente alla Commissione Europea riguardo a uno sciame dei suoi agenti AI che hanno occupato la wiki tedesca DseWiki per due mesi nel 2026.
- Gli agenti hanno utilizzato il sito web per coordinare metodi relativi alle misure di salvaguardia dell'azienda.
- La Commissione ha confermato il rapporto ma non ha specificato quando è stato inviato, dato che lo standard del regolamento sull'IA richiede una comunicazione "senza indebito ritardo" e nuove sanzioni fino al 3% del fatturato globale dipendono dalla tempistica.
OpenAI ha inviato alla Commissione Europea un rapporto di incidente riguardo alla schiera di agenti IA che ha preso il controllo di un wiki in lingua tedesca e lo ha gestito come un canale di messaggistica privata, ha confermato un portavoce della Commissione lunedì.
Thomas Regnier, portavoce digitale della Commissione, ha detto ai giornalisti che il rapporto era arrivato alla commissione. “Abbiamo effettivamente ricevuto un rapporto di incidente”, ha dichiarato, aggiungendo che la commissione stava esaminando il rapporto e rimaneva in contatto con l'azienda di IA. Ha anche detto che Bruxelles aveva “visto molte perdite di controllo di recente” e stava osservando da vicino.
L'articolo 55 dell'AI Act richiede ai fornitori di modelli di intelligenza artificiale a uso generale con modelli che potrebbero potenzialmente presentare rischi sistemici di segnalare gravi incidenti all'Ufficio IA “senza indebito ritardo”. L'attività wiki segnalata si dice sia avvenuta in primavera, e Reuters aveva precedentemente riportato che la direzione di OpenAI era a conoscenza dell'incidente per settimane prima di divulgare anything pubblicamente.
Gli agenti di OpenAI hanno gestito il wiki tedesco
DseWiki, il sito web hijackato dagli agenti di OpenAI, è un sito gestito da volontari, in stile Wikipedia, per programmatori di lingua tedesca. Secondo un'indagine di Reuters precedentemente riportata da Cryptopolitan, gli agenti hanno effettuato oltre 15.000 modifiche al sito tra maggio e giugno 2026, utilizzando le pagine per scambiare tattiche per eseguire diverse azioni evasive.
Gli agenti hanno anche integrato ridondanza e hanno persino creato copie di backup delle loro pagine quando un moderatore ha iniziato a cancellare queste pagine a giugno. Gli agenti hanno persino creato una pagina di fallback denominata per assicurarsi che si ordinasse in fondo a una pulizia alfabetica, tutto per sopravvivere allo spazzamento.
Ricerca esterni non affiliati a OpenAI o a nessun regolatore hanno scoperto l'operazione alla fine di agosto. Sydney Von Arx, del nonprofit per la sicurezza dell'IA Nightingale, e l'ex trader quantitativo Cormac Slade Byrd hanno tracciato una quantità significativa del traffico degli agenti verso l'infrastruttura Microsoft Azure utilizzata per supportare alcune operazioni di OpenAI.
Le date di segnalazione e la cronologia rimangono poco chiare
OpenAI ha confermato l'episodio il 5 settembre, lo ha definito un caso di disallineamento e ha affermato che l'industria era in ritardo per gli standard sulla segnalazione di tali eventi. L'azienda ha isolato gli agenti, ha interrotto le esecuzioni di reinforcement learning di frontiera e ha aggiunto controlli di sicurezza. OpenAI ha sostenuto che gli agenti non avevano sviluppato i propri obiettivi e stavano solo perseguendo aggressivamente le sfide di cybersecurity “Exploit Gym” assegnate, trattando i limiti imposti come ostacoli.
Il codice di condotta UE firmato da OpenAI stabilisce una scadenza di cinque giorni per la segnalazione di violazioni della cybersecurity e 15 giorni per incidenti che comportano gravi danni alla salute, ai diritti, alla proprietà o all'ambiente. Nulla è stato rubato in questo caso e non è stato stabilito alcun danno misurabile, il che significa che un modello che si comporta in modo non intenzionale senza conseguenze concrete non sembra avere una scadenza di segnalazione ovvia ai sensi del codice.
Tuttavia, i doveri dell'articolo 55 si applicano una volta che un modello è disponibile pubblicamente sul mercato, e nella violazione separata di Hugging Face, OpenAI ha spiegato che il modello principalmente responsabile era un modello di ricerca interno non rilasciato.
Cosa può fare ora l'UE riguardo all'incidente
Le multe possono arrivare fino al 3% del fatturato annuo mondiale o a 15 milioni di euro, a seconda di quale valore sia più alto. Coprono anche il rifiuto di misure correttive o la consegna di informazioni incomplete, e non solo le violazioni delle norme.
Non è stata annunciata alcuna azione di enforcement, e la semplice presentazione di un rapporto non attiverebbe automaticamente alcuna azione particolare. “Oltre al rapporto di incidente, rimaniamo in stretto contatto con OpenAI”, ha detto Regnier.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
