L'ex direttore di OpenAI dice che Sam Altman è stato licenziato per “menzogne palesi” 

L'ex membro del consiglio Helen Toner ha rivelato che Sam Altman è stato licenziato come CEO di OpenAI perché ha informato deliberatamente il consiglio di amministrazione in modo errato sullo sviluppo del prodotto e sui processi di sicurezza dell'azienda.

 Leggi anche: OpenAI prepara il successore di GPT-4 in mezzo a preoccupazioni sulla sicurezza

Toner, ricercatrice AI e una dei direttori che hanno licenziato Altman a novembre, ha parlato per la prima volta del colpo di stato fallito in consiglio di amministrazione in un'intervista del 28 maggio con The TEDTalk AI Show ospite Bilawal Sidhu.

'Sam Altman ha mentito apertamente al Consiglio'

Il consiglio di amministrazione di OpenAI è stato istituito per mantenere l'azienda radicata nel bene pubblico prima dell'interesse al profitto, ha rivelato Toner in un'intervista. Ha detto, “Per anni, Sam ha reso davvero difficile per il consiglio fare quel lavoro trattenendo informazioni, distorcendo ciò che stava accadendo nell'azienda, in alcuni casi mentendo apertamente al consiglio.”

Condividendo questo, registrato alcune settimane fa. La maggior parte dell'episodio riguarda la politica sull'AI in generale, ma questa è stata la mia prima intervista a lungo formato da quando l'indagine di OpenAI è chiusa, quindi abbiamo anche parlato un po' di novembre.

Grazie a @bilawalsidhu per una conversazione divertente! https://t.co/h0PtK06T0K

— Helen Toner (@hlntnr) Maggio 28, 2024

Sam Altman è stato improvvisamente licenziato come CEO il 17 novembre 2023, una decisione che ha scosso l'industria dell'intelligenza artificiale. Toner ha detto che il segreto intorno alla decisione faceva parte di un piano deliberato del consiglio.

Secondo Toner, “Era molto chiaro a tutti noi che non appena Sam avesse avuto il minimo indizio che potessimo fare qualcosa contro di lui, avrebbe fatto di tutto, messo in campo tutte le sue risorse per minare il consiglio, per impedirci, beh, anche solo di arrivare al punto di poterlo licenziare. Quindi siamo stati molto attenti, molto deliberati su chi abbiamo informato, che era essenzialmente quasi nessuno in anticipo, tranne, ovviamente, il nostro team legale.”

Altman ha prevalso sul consiglio sull'immagine pubblica del fallout di novembre, con i dipendenti e gli investitori di OpenAI, tra cui Microsoft, che deploravano il suo licenziamento. È stato ripristinato come CEO entro una settimana, mentre il chief scientist Ilya Sutskever, Toner e altri 'conspiratori' hanno accettato di lasciare il consiglio.

La reputazione del Posterboy dell'AI subisce un colpo

La reputazione di Altman come 'poster boy dell'AI generativa' ha subito un colpo nelle ultime settimane, poiché l'ex alta dirigenza, tra cui Jan Leike, Gretchen Krueger e Tasha McCauley, ha messo in discussione la sua leadership.

Parlando del licenziamento di Altman, Toner ha detto che il consiglio ha saputo del rilascio di ChatGPT a novembre 2022 solo su Twitter, ora X, poiché non era stato informato. Ha anche accusato Altman di aver trattenuto dal consiglio il fatto che possedeva il fondo di startup di OpenAI.

Leggi anche: ChatGPT continua a diffondere falsità, afferma l'autorità di vigilanza sui dati dell'UE

“Quando ChatGPT è uscito [a] novembre 2022, il consiglio non è stato informato in anticipo. Abbiamo saputo di GPT su Twitter,” ha affermato Toner.

Ha continuato, dicendo, “Sam non ha informato il consiglio che possedeva il fondo di startup di OpenAI, anche se sosteneva costantemente di essere un membro indipendente del consiglio senza interessi finanziari nell'azienda.”

Più avanti nell'intervista, Toner ha parlato della divulgazione discrezionale di Sam su questioni relative alla sicurezza. “In più occasioni ci ha dato informazioni inaccurate sul piccolo numero di processi formali di sicurezza che l'azienda aveva effettivamente in atto, il che significava che era praticamente impossibile per il consiglio sapere quanto bene funzionassero quei processi di sicurezza o cosa potesse aver bisogno di cambiare.”

'Atmosfera tossica' in OpenAI

Secondo Toner, alcune figure chiave hanno superato l'auto-censura iniziale e hanno detto al consiglio che Sam Altman non poteva essere fidato a causa dell'‘atmosfera tossica’ che stava creando nell'azienda. Ha rivelato:

“Hanno usato la frase ‘abuso psicologico’, dicendoci che non pensavano fosse la persona giusta per guidare l'azienda verso l'intelligenza generale artificiale (AGI).”

Gli investigatori interni sugli eventi di novembre hanno recentemente riferito che il consiglio ha agito in buona fede ma non ha previsto l'instabilità che sarebbe seguita al licenziamento di Altman. Il CEO ha consolidato il suo controllo su OpenAI da novembre. Il 'team Superalignment' co-presieduto dal principale cospiratore Sutskever è stato sciolto all'inizio di questo mese dopo una serie di dimissioni.

Martedì, la startup con sede a San Francisco ha annunciato un nuovo comitato per la sicurezza e la sicurezza da guidare dai direttori Altman, Bret Taylor (presidente), Adam D’Angelo e Nicole Seligman.

La nuova intervista di Toner ribadisce la sua recente colonna ospite per The Economist, co-autore con l'ex direttrice di OpenAI, Tasha McCauley. I due hanno affermato che l'auto-governance non è riuscita a resistere alla pressione degli incentivi al profitto in OpenAI.

Reportage di Cryptopolitan di Jeffrey Gogo