Ex ricercatori di OpenAI criticano l'opposizione dell'azienda al disegno di legge sull'intelligenza artificiale in California

Due ex ricercatori di OpenAI, Daniel Kokotajlo e William Saunders, hanno espresso il loro malcontento nei confronti della posizione dell'azienda in merito al disegno di legge californiano sulla regolamentazione dell'intelligenza artificiale, SB 1047. Avevano lasciato l'azienda all'inizio di quest'anno, adducendo problemi di sicurezza derivanti dall'elevato tasso di sviluppo dell'intelligenza artificiale. 

In una lettera a Politico, hanno espresso il loro disaccordo con la posizione di OpenAI su questo disegno di legge, affermando che non è applicabile ai precedenti ricorsi dell'azienda per la regolamentazione dell'IA. La lettera solleva una preoccupazione più ampia per la gestione e la sicurezza dell'IA. Secondo Kokotajlo e Saunders, l'opposizione di OpenAI alla SB 1047 rivela l'atteggiamento irresponsabile dell'organizzazione nei confronti della creazione di IA. 

"Sam Altman, il nostro ex capo, ha ripetutamente chiesto una regolamentazione dell'IA", hanno scritto Kokotajlo e Saunders. "Ora, quando si parla di una vera e propria regolamentazione, si oppone". 

OpenAI difende la sua posizione e chiede una regolamentazione federale

Hanno sottolineato che la missione di Aidos è sviluppare l'intelligenza artificiale in modo sicuro, ma le misure adottate dall'azienda sono contrarie a tale missione. I ricercatori hanno chiesto al governatore della California Gavin Newsom di approvare il disegno di legge, in modo che si possano adottare maggiori misure di sicurezza per la tecnologia di intelligenza artificiale. 

In risposta alla lettera degli ex ricercatori, un rappresentante di OpenAI ha condiviso una dichiarazione in cui nega le accuse di errata caratterizzazione. Il portavoce ha inoltre osservato che OpenAI sostiene alcune delle proposte di legge sulla sicurezza dell'IA presentate al Congresso e sostiene che queste dovrebbero essere regolamentate a livello federale perché rappresentano una minaccia per la sicurezza nazionale e incidono sulla competitività del Paese sulla scena mondiale.

OpenAI ha espresso la necessità di un'adeguata regolamentazione dell'IA, ma auspica che la questione venga affrontata a livello federale. Secondo l'azienda, solo una legislazione federale può fornire un approccio più efficace alle soluzioni legali per i pericoli delle tecnologie di IA di frontiera e un regime giuridico unitario in tutto il Paese. 

Anthropic assume una posizione diversa sulla legislazione californiana sull'intelligenza artificiale

D'altro canto, Anthropic, concorrente di OpenAI, ha accolto con favore la SB 1047, ma ha proposto alcune modifiche. L'amministratore delegato dell'azienda, Dario Amodei, che in passato ha lavorato presso OpenAI, ha espresso un parere più moderato sul disegno di legge. Amodei ha scritto una lettera al governatore Newsom affermando che, sebbene il disegno di legge abbia i suoi pro, la versione attuale, con gli emendamenti inclusi, è conveniente e vantaggiosa. 

L'approvazione del disegno di legge da parte di Anthropic segnala un approccio diverso alla governance dell'IA. L'approvazione dell'azienda, insieme agli emendamenti proposti, è diversa dall'approccio federale sostenuto da OpenAI. Il destino della SB 1047 influenzerà molto probabilmente i futuri dibattiti a livello statale e federale.