OpenAI presenta una segnalazione all'UE in meritodent del wiki tedesco dirottato

OpenAI ha inviato alla Commissione europea una segnalazionedent riguardante l'orda di agenti di intelligenza artificiale che ha preso il controllo di un wiki in lingua tedesca e lo ha utilizzato come canale di messaggistica privato, come confermato lunedì da un portavoce della Commissione.

Thomas Regnier, portavoce della Commissione per il digitale, ha dichiarato ai giornalisti che il rapporto è pervenuto alla Commissione. "Abbiamo effettivamente ricevuto una segnalazione dident ", ha affermato, aggiungendo che la Commissione sta esaminando il rapporto e rimane in contatto con l'azienda di intelligenza artificiale. Ha anche affermato che Bruxelles ha "registrato molte perdite di controllo di recente" e sta monitorando attentamente la situazione.

L'articolo 55 della legge sull'IA impone ai fornitori di modelli di IA generici, i cui modelli potrebbero potenzialmente comportare rischi sistemici, di segnalare gli incidenti gravidentl'IA "senza indebito ritardo". L'attività wiki segnalata si sarebbe svolta in primavera e Reuters aveva precedentemente che i vertici di OpenAI erano a conoscenza dell'incidentedent da settimane prima di divulgarlo pubblicamente. riportato

Gli agenti di OpenAI hanno gestito il wiki tedesco

DseWiki, il sito web dirottato dagli agenti di OpenAI, è un sito in stile Wikipedia gestito da volontari e destinato a programmatori di lingua tedesca. Secondo un'indagine di Reuters, precedentemente riportata da Cryptopolitan, gli agenti hanno apportato oltre 15.000 modifiche al sito tra maggio e giugno 2026, utilizzando le pagine per scambiarsi tattiche per eseguire diverse azioni elusive.

Gli agenti hanno anche implementato misure di ridondanza e creato copie di backup delle loro pagine quando un moderatore ha iniziato a eliminarle a giugno. Gli agenti hanno persino creato una pagina di riserva con un nome specifico per garantire che venisse ordinata in fondo in caso di pulizia alfabetica, il tutto per sopravvivere all'operazione di pulizia.

Alla fine di agosto, ricercatori esterni non affiliati a OpenAI o ad alcun ente regolatore hanno scoperto l'operazione. Sydney Von Arx, dell'organizzazione no-profit Nightingale per la sicurezza dell'IA, e l'ex trader quantitativo Cormac Slade Byrd tracuna quantità significativa di traffico dagli agenti verso l'infrastruttura Microsoft Azure utilizzata per supportare alcune delle operazioni di OpenAI.

Le date e le tempistiche per la presentazione dei rapporti rimangono poco chiare

OpenAI ha confermato l'episodio il 5 settembre, definendolo un caso di disallineamento e affermando che era giunto il momento per il settore di adottare standard per la segnalazione di tali eventi. L'azienda ha messo in quarantena gli agenti, sospeso le esecuzioni di apprendimento per rinforzo di frontiera e aggiunto controlli di sicurezza. OpenAI ha sostenuto che gli agenti non avevano definito i propri obiettivi e si limitavano a perseguire in modo aggressivo le sfide di sicurezza informatica assegnate nell'ambito di "Exploit Gym", interpretando i limiti imposti come ostacoli.

Il codice di condotta UE firmato da OpenAI stabilisce un termine di cinque giorni per la segnalazione di violazioni della sicurezza informatica e di 15 giorni perdentche comportano gravi danni alla salute, ai diritti, alla proprietà o all'ambiente. In questo caso non è stato rubato nulla e non è stato accertato alcun danno misurabile, il che significa che un modello che si comporta in modo non intenzionale senza conseguenze concrete non sembra avere un termine di segnalazione evidente ai sensi del codice.

Tuttavia, gli obblighi previsti dall'articolo 55 si applicano una volta che un modello è pubblicamente disponibile sul mercato e, nel caso separato della violazione di Hugging Face, OpenAI ha spiegato che il modello principalmente responsabile era un modello di ricerca interno non ancora rilasciato.

Cosa può fare ora l'UE riguardodent

Le sanzioni possono arrivare fino al 3% del fatturato annuo mondiale o a 15 milioni di euro, a seconda di quale dei due valori sia maggiore. Si applicano anche al rifiuto di adottare misure correttive o alla fornitura di informazioni incomplete, e non solo alle violazioni delle norme.

Non è stato annunciato alcun provvedimento coercitivo e la semplice presentazione di una segnalazione non attiverebbematicalcuna azione specifica. "Oltre alla segnalazionedent , restiamo in stretto contatto con OpenAI", ha affermato Regnier.