I senatori americani criticano il rilascio “senza restrizioni” dell’intelligenza artificiale di Meta

Due senatori statunitensi, Richard Blumenthal e Josh Hawley, hanno espresso preoccupazione riguardo all'amministratore delegato di Meta Mark Zuckerberg e al modello di intelligenza artificiale “trapelato” del colosso tecnologico chiamato LLaMA. I senatori sostengono che LLaMA rappresenta un potenziale pericolo e potrebbe essere sfruttato per attività criminali.

In una lettera datata 6 giugno, i senatori hanno criticato la decisione di Zuckerberg di rendere LLaMA open source e hanno affermato che non vi erano garanzie sufficienti nel rilascio del modello AI da parte di Meta. Pur riconoscendo i vantaggi del software open source, hanno sostenuto che il rilascio di LLaMA da parte di Meta mancava di un'analisi approfondita delle potenziali conseguenze, che consideravano un disservizio per il pubblico.

Inizialmente, LLaMA aveva una versione online limitata per i ricercatori. Tuttavia, è stato successivamente divulgato nella sua interezza da un utente del sito di image board 4chan alla fine di febbraio. I senatori hanno espresso preoccupazione per il fatto che il modello completo sia diventato facilmente disponibile su BitTorrent, senza alcun monitoraggio o supervisione, accessibile a chiunque in tutto il mondo. Blumenthal e Hawley hanno affermato che LLaMA potrebbe essere facilmente adottato da spammer, criminali informatici e individui coinvolti in attività fraudolente o nella distribuzione di contenuti discutibili.

Le preoccupazioni dei senatori Usa

Per evidenziare le loro preoccupazioni , i senatori hanno contrapposto LLaMA a due modelli closed-source: ChatGPT-4 di OpenAI e Bard di Google. Hanno notato che mentre ChatGPT-4, quando gli veniva chiesto di generare una nota fingendo di essere il figlio di qualcuno che chiedeva soldi, negava la richiesta sulla base di linee guida etiche, LLaMA produceva la lettera richiesta così come risposte riguardanti autolesionismo, criminalità e antisemitismo. Questa distinzione ha sollevato preoccupazioni sul potenziale di LLaMA di generare materiale offensivo.

Sebbene ChatGPT sia programmato per rifiutare determinate richieste, gli utenti hanno trovato il modo di effettuare il "jailbreak" del modello e fargli generare risposte che normalmente rifiuterebbe. I senatori hanno interrogato Zuckerberg se sono state condotte valutazioni del rischio prima del rilascio di LLaMA, quali misure Meta ha adottato per prevenire o mitigare i danni dopo la fuga di notizie e come Meta utilizza i dati degli utenti per la ricerca sull'intelligenza artificiale, tra le altre domande.

Vale la pena notare che OpenAI, sotto la pressione dei progressi compiuti da altri modelli open source, starebbe lavorando al proprio modello AI open source. Un documento trapelato, redatto da un ingegnere informatico senior di Google, ha evidenziato i progressi compiuti da questi modelli open source.

L’open source del codice per un modello di intelligenza artificiale consente la personalizzazione per servire scopi specifici e facilita i contributi di altri sviluppatori. Tuttavia, le preoccupazioni sollevate dai senatori Blumenthal e Hawley sottolineano la necessità di approcci responsabili e ponderati al rilascio e al monitoraggio dei modelli di intelligenza artificiale per prevenire potenziali usi impropri e danni.