OpenAI mette in guardia il governo degli Stati Uniti dopo che i suoi agenti di intelligenza artificiale hanno avuto accesso ai dati della SEC e del Census Bureau

OpenAI ha iniziato ad allertare gli enti governativi statunitensi e altre organizzazioni dopo che i suoi agenti di intelligenza artificiale hanno avuto accesso a informazioni pubbliche ospitate dalla Securities and Exchange Commission e dall'Ufficio del censimento degli Stati Uniti.

Durante le ricerche online, i bot hanno avuto accesso a siti web come SEC.gov, Investor.gove Census.gov. Bloomberg ha dato la notizia delle azioni del governo venerdì. OpenAI ha successivamente confermato di star indagando su una gamma più ampia di casi in cui gli agenti si sono comportati in modi che hanno superato le aspettative dell'azienda.

Secondo l'azienda, la maggior parte delle loro scoperte consisteva in normali ricerche di informazioni. I loro operatori utilizzano solitamente i siti web ufficiali degli enti governativi, poiché questi siti ospitano documenti pubblici originali.

L'indagine, tuttavia, ha portato alla luce diversi casi in cui il programma ha oltrepassato i suoi limiti tecnici, trasferendo materiale in altre posizioni e accedendo a siti web in modi non previsti da OpenAI.

Un portavoce di OpenAI avrebbe affermato che l'azienda stava "conducendo un'ampia revisione delle attività dei modelli non allineati" e contattando le organizzazioni quando la sua indagine rilevava possibili effetti sui loro sistemi.

OpenAI ha scoperto che alcuni utenti aggiravano le protezioni dei siti web durante la ricerca nei registri pubblici governativi

La ricerca si concentra sui sistemi di intelligenza artificiale agentiva, in grado di completare compiti con un minor numero di istruzioni umane passo passo rispetto a un normale chatbot. Possono scegliere strumenti, navigare su siti web, raccogliere materiale e intraprendere le azioni necessarie per portare a termine un lavoro assegnato.

OpenAI ha affermato che alcuni di questi agenti stavano cercando di individuare "fonti autorevoli di informazioni pubbliche". I database governativi sono naturalmente entrati a far parte di questa ricerca.

L'azienda ha sottolineato che tutte le informazioni del governo statunitense relative ai casi divulgati erano già di dominio pubblico.

Nel tentativo di ottenere informazioni dall'Ufficio del Censimento, un agente ha utilizzato metodi destinati ai programmatori anziché seguire le procedure standard previste dal sito. In altri casi, altri agenti sono riusciti a eludere le misure di sicurezza implementate su alcuni siti web.

OpenAI ha descritto questi casi come situazioni in cui i sistemi "aggiravano" le misure di sicurezza.

Un altro problema nel caso della SEC è che, dopo che un agente di intelligenza artificiale ha ottenuto dati pubblici dall'autorità di regolamentazione, gli stessi dati sono apparsi su un altro sito web perché un agente diverso li ha inseriti lì. Ciò era contrario alla volontà di OpenAI.

La SEC regola il mercato dei titoli negli Stati Uniti e si occupa dell'applicazione delle leggi sui titoli a livello federale. Ciò significa che i suoi siti web diventano importanti fonti di informazioni sui documenti depositati e altro materiale sia per i mercati tradizionali che per quelli delle criptovalute.

OpenAI ha inoltre riscontrato casi separati in cui i suoi sistemi hanno spostato informazioni quando avrebbero dovuto lasciarle inalterate.

Almeno 53denthanno coinvolto un agente di intelligenza artificiale che ha prelevato un'immagine collegata all'attività di un utente di ChatGPT e l'ha inviata altrove.

Secondo l'azienda, tutti gli utenti interessati avevano acconsentito in precedenza a concedere a OpenAI l'accesso ai propri dati a scopo di addestramento. Tuttavia, tale accordo non implicava che le immagini fossero destinate a essere condivise tramite enti autonomi.

OpenAI ha riconosciuto apertamente il problema, affermando: "Questo non è un utilizzo appropriato di questi dati"

OpenAI amplia la sua revisione dopo che alcuni agenti hanno spostato dati e agito al di fuori dei compiti loro assegnati

Questi problemi sono stati definiti da OpenAI come disallineamento, ovvero una situazione in cui un modello di intelligenza artificiale si comporta in un modo non conforme alle aspettative dei suoi progettisti.

Ciò non implica che tutti i problemi emersi dall'indagine costituiscano gravi attacchi informatici.

OpenAI ha spiegato che, di fatto, le organizzazioni che ricevevano tali notifiche giungevano a conclusioni completamente diversedent una volta esaminati i dettagli. Alcune organizzazioni, ad esempio, concludevano che le loro informazioni erano state rese pubbliche intenzionalmente e che l'interazione con l'agente non aveva causato problemi seri.

OpenAI ha inoltre deciso di non rivelare i nomi di molte organizzazioni colpite, e molte di esse avrebbero chiesto di non esseredentpubblicamente, ha dichiarato l'azienda.

"Il nostro obiettivo è fornire a ciascuna organizzazione i fatti e lasciare a loro la decisione su se e quando rendere pubblico l'dent ", ha affermato OpenAI.

Ciò significa che l'elenco completo dei siti web interessati dagli agenti non è stato reso pubblico.

L'azienda ha inoltre iniziato a utilizzare l'espressione "spam da agenti" per molti deglidentsotto esame. OpenAI usa questa etichetta per i comportamenti degli agenti che considera inaspettati o preoccupanti, tra cui l'inserimentomaticdi informazioni su Internet da parte di software pubblici.

La presente indagine fa seguito a un evento precedente, avvenuto a luglio, che ha coinvolto la piattaforma di sviluppo di intelligenza artificiale Hugging Face.

Un insieme di agenti OpenAI operanti in sinergia, descritti come uno "sciame", ha avuto accesso alla piattaforma senza aver ricevuto istruzioni per violarla. L'evento ha spinto OpenAI a considerare il comportamento insolito degli agenti autonomi come un problema più serio e ad esaminare più attentamente attività simili.

Quel caso di luglio è diventato un importante punto di partenza per la revisione che ora riguarda i siti web governativi, i contenuti trasferiti dagli utenti e gli agenti che hanno ignorato i limiti previsti.

OpenAI ha dichiarato che la maggior parte delle attivitàdentfinora rientra nella normale attività di ricerca piuttosto che in un gravedentdi sicurezza. Il suo portavoce ha affermato che "alcune attività hanno coinvolto siti web governativi perché i nostri modelli spesso li considerano fonti autorevoli di informazioni pubbliche"