I senatori USA criticano il rilascio "senza restrizioni" di IA da parte di Meta

Due senatori statunitensi, Richard Blumenthal e Josh Hawley, hanno espresso preoccupazioni riguardo al CEO di Meta Mark Zuckerberg e al modello di intelligenza artificiale "trapelato" chiamato LLaMA del colosso tecnologico. I senatori sostengono che LLaMA presenta potenziali pericoli e potrebbe essere sfruttato per attività criminali.

In una lettera datata 6 giugno, i senatori hanno criticato la decisione di Zuckerberg di open-source LLaMA e hanno affermato che c'erano salvaguardie insufficienti nel rilascio del modello di IA da parte di Meta. Sebbene abbiano riconosciuto i benefici del software open-source, hanno sostenuto che il rilascio di LLaMA da parte di Meta mancava di una considerazione approfondita delle potenziali conseguenze, che hanno considerato un danno al pubblico.

Inizialmente, LLaMA aveva un rilascio online limitato ai ricercatori. Tuttavia, è stato successivamente trapelato nella sua interezza da un utente del sito di imageboard 4chan alla fine di febbraio. I senatori hanno espresso allarme per il fatto che il modello completo è diventato facilmente disponibile su BitTorrent, senza alcun monitoraggio o supervisione, accessibile a chiunque nel mondo. Blumenthal e Hawley hanno affermato che LLaMA potrebbe essere facilmente adottato da spammer, criminali informatici e individui coinvolti in attività fraudolente o nella distribuzione di contenuti riprovevoli.

Preoccupazioni dei senatori USA

Per evidenziare le loro preoccupazioni, i senatori hanno contrapposto LLaMA a due modelli closed-source: ChatGPT-4 di OpenAI e Bard di Google. Hanno notato che, mentre ChatGPT-4, quando gli viene chiesto di generare una nota che finge di essere il figlio di qualcuno che chiede soldi, rifiuterebbe la richiesta basandosi su linee guida etiche, LLaMA produrrebbe la lettera richiesta così come risposte che coinvolgono autolesionismo, crimine e antisemitismo. Questa distinzione ha sollevato preoccupazioni riguardo al potenziale di LLaMA di generare materiale abusivo.

Mentre ChatGPT è programmato per rifiutare determinate richieste, gli utenti hanno trovato modi per "bypassare" (jailbreak) il modello e farlo generare risposte che di solito rifiuterebbe. I senatori hanno chiesto a Zuckerberg se fossero state condotte valutazioni del rischio prima del rilascio di LLaMA, quali misure Meta ha preso per prevenire o mitigare i danni dal momento della fuga, e come Meta utilizza i dati degli utenti per la ricerca sull'IA, tra altre domande.

Vale la pena notare che OpenAI, sotto la pressione dei progressi realizzati da altri modelli open-source, sta lavorando al proprio modello di IA open-source. Un documento trapelato redatto da un ingegnere del software senior di Google ha evidenziato i progressi realizzati da questi modelli open-source.

La condivisione del codice sorgente di un modello di intelligenza artificiale consente la personalizzazione per scopi specifici e facilita i contributi di altri sviluppatori. Tuttavia, le preoccupazioni sollevate dai senatori Blumenthal e Hawley sottolineano la necessità di approcci responsabili e ponderati per il rilascio e il monitoraggio dei modelli di IA, al fine di prevenire potenziali abusi e danni.