Ex ricercatori di OpenAI criticano l'opposizione dell'azienda alla legge sull'IA della California

Due ex ricercatori di OpenAI, Daniel Kokotajlo e William Saunders, hanno espresso il loro disaccordo con la posizione dell'azienda sulla legge sulla regolamentazione dell'IA della California, SB 1047. Avevano lasciato l'azienda all'inizio di quest'anno, citando problemi di sicurezza derivanti dall'alto tasso di sviluppo dell'IA. 

In una lettera a Politico, hanno espresso il loro disaccordo con la posizione di OpenAI su questa legge, affermando che è inapplicabile agli appelli precedenti dell'azienda per una regolamentazione dell'IA. La lettera solleva una preoccupazione più ampia per la gestione e la sicurezza dell'IA. Secondo Kokotajlo e Saunders, l'opposizione di OpenAI alla SB 1047 rivela l'atteggiamento irresponsabile dell'organizzazione verso la creazione di IA. 

"Sam Altman, il nostro ex capo, ha ripetutamente chiesto una regolamentazione dell'IA," hanno scritto Kokotajlo e Saunders. "Ora, quando una regolamentazione concreta è sul tavolo, si oppone ad essa."

OpenAI difende la posizione e chiede una regolamentazione federale

Hanno sottolineato che la missione di Aidos è sviluppare l'AGI in modo sicuro, ma i passi che l'azienda sta compiendo sono contrari a questa missione. I ricercatori hanno chiesto al governatore della California Gavin Newsom di approvare la legge in modo che possano essere prese migliori precauzioni di sicurezza con la tecnologia IA. 

In risposta alla lettera degli ex ricercatori, un rappresentante di OpenAI ha condiviso una dichiarazione che nega le accuse di caratterizzazione errata. Il portavoce ha anche notato che OpenAI sostiene alcune leggi sulla sicurezza dell'IA al Congresso e sostiene che queste dovrebbero essere regolate a livello federale perché rappresentano una minaccia alla sicurezza nazionale e influenzano la competitività del paese sul palcoscenico mondiale.

OpenAI si è espressa chiaramente sulla necessità di una corretta regolamentazione dell'IA, ma vuole che la questione sia affrontata a livello federale. Secondo l'azienda, solo la legislazione federale può fornire un approccio più efficace alle soluzioni legali ai pericoli delle tecnologie IA di frontiera e un regime legale unitario in tutto il paese. 

Anthropic adotta una posizione diversa sulla legislazione sull'IA della California

D'altra parte, Anthropic, concorrente di OpenAI, ha accolto favorevolmente la SB 1047 ma ha proposto alcune modifiche. Il CEO dell'azienda, Dario Amodei, che ha lavorato in precedenza per OpenAI, è stato più moderato nel suo parere sulla legge. Amodei ha scritto una lettera al governatore Newsom affermando che, sebbene la legge abbia i suoi pro, la versione attuale con le emendamenti inclusi è conveniente e benefica. 

L'avallo della legge da parte di Anthropic segnala un approccio distinto alla governance dell'IA. L'avallo dell'azienda, insieme alle emendamenti proposti. Questo è diverso dall'approccio federale sostenuto da OpenAI. Il destino della SB 1047 influenzerà probabilmente i futuri dibattiti a livello statale e federale.