Sam Altman si dimette dalla Safety Commission di OpenAI sotto scrutinio

Il CEO di OpenAI, Sam Altman, si è dimesso dal Comitato interno di Sicurezza e Sicurezza dell'azienda, un gruppo stabilito a maggio per supervisionare le decisioni critiche sulla sicurezza. La partenza di Altman arriva in un momento in cui i legislatori statunitensi e gli ex dipendenti di OpenAI hanno sollevato preoccupazioni sulla sicurezza e sulla conformità legale dell'azienda.

Il Comitato di Sicurezza e Sicurezza ora lavorerà come un comitato separato a livello di consiglio di amministrazione che monitora le questioni di sicurezza. Questo spostamento ha nominato Zico Kolter, un professore della Carnegie Mellon University, come suo presidente, insieme al CEO di Quora Adam D’Angelo, al generale ritirato dell'Esercito degli Stati Uniti Paul Nakasone e all'ex esecutivo di Sony Nicole Seligman. Tutti loro sono membri attuali del consiglio di amministrazione di OpenAI. Il gruppo avrà ancora il potere di bloccare il rilascio di modelli IA finché le preoccupazioni sulla sicurezza non saranno risolte. 

I critici mettono in discussione le priorità di OpenAI mentre il personale chiave se ne va

In un post sul blog dopo la partenza di Altman, OpenAI ha ribadito il suo focus sulla sicurezza e ha notato che il comitato aveva precedentemente approvato la sicurezza del modello più recente, o1. Il gruppo riceverà anche regolarmente ulteriori informazioni dal personale di sicurezza e sicurezza dell'azienda per tenere aggiornati e informati i membri sui futuri rilasci di modelli IA. Ha anche detto che intende migliorare le misure di sicurezza adottando revisioni tecniche e obiettivi ben delineati per i lanci dei modelli.

Questo avviene in seguito alle critiche, in particolare da cinque senatori statunitensi che hanno espresso preoccupazione per le misure di sicurezza dell'azienda nell'estate. I critici hanno anche notato che più della metà del personale incaricato di affrontare le conseguenze a lungo termine dell'IA ha lasciato l'azienda. Alcuni hanno detto che Altman è più preoccupato per l'aspetto commerciale dell'IA rispetto alla regolamentazione della tecnologia.

Le spese di OpenAI sono aumentate. Nel primo semestre del 2024, l'azienda ha speso 800.000 dollari per il lobbying federale, che è un aumento significativo rispetto ai 260.000 dollari spesi per tutto il 2023. All'inizio di quest'anno, Altman è diventato membro del Consiglio per la Sicurezza e la Sicurezza dell'Intelligenza Artificiale del Dipartimento della Sicurezza Interna degli Stati Uniti. Il comitato dovrebbe consigliare sull'uso dell'IA nei sistemi critici del paese. 

Ci sono ancora domande riguardo all'auto-regolamentazione del gigante dell'IA. In un articolo di opinione per The Economist, gli ex membri del consiglio di amministrazione di OpenAI Helen Toner e Tasha McCauley hanno sollevato dubbi sulla capacità dell'azienda di fare da poliziotto a se stessa. Hanno affermato che gli incentivi al profitto potrebbero minare l'auto-governance di OpenAI, che secondo loro può essere in contrasto con gli obiettivi di sicurezza a lungo termine.

OpenAI cerca un finanziamento massiccio e i piani cambiano verso un modello for-profit

Si dice che OpenAI sia in discussioni per garantire un nuovo round di finanziamento massiccio che potrebbe spingere la sua valutazione a 150 miliardi di dollari. In un recente rapporto di Cryptopolitan, OpenAI prevede di garantire 6,5 miliardi di dollari dagli investitori alla sua valutazione attuale. Si dice che OpenAI stia pianificando di trasformare il suo modello operativo attuale verso un tradizionale modello for-profit entro il 2025.

Il CEO di OpenAI Sam Altman ha rivelato i cambiamenti allo staff durante una recente riunione ma non ha rivelato molto su cosa aspettarsi. Altman ha detto che l'azienda era 'cresciuta troppo grande' per la struttura attuale ed era pronta ad allontanarsi dal modello non-profit.