I documenti di uscita di OpenAI sono troppo restrittivi per i dipendenti in uscita?

I dipendenti in uscita di OpenAI sono tenuti a firmare un accordo restrittivo di off-boarding. Il chief executive officer di OpenAI, Sam Altman, ha dichiarato che una parte dell'accordo non avrebbe mai dovuto verificarsi e che si tratta di una delle rare occasioni in cui la gestione di OpenAI lo ha davvero imbarazzato.

Dopo la partenza di alcuni membri di alto profilo del team di sicurezza di OpenAI, è emerso che l'accordo include disposizioni di non diffamazione e di non divulgazione che impediscono ai dipendenti in uscita di criticare OpenAI per il resto delle loro vite, ha riportato Vox sabato.

E non è solo questo; l'accordo va oltre e revoca anche le azioni vestite dei dipendenti nell'azienda se in futuro criticano il loro ex datore di lavoro in un modo che OpenAI considera lesivo del loro valore. Inoltre, non possono parlare dei termini dell'uscita, poiché ciò comporterebbe la revoca delle loro azioni.

Cosa sta succedendo a OpenAI?

Nella recente annuncio di ChatGPT-4o, il prodotto di punta dell'azienda ha ottenuto la capacità di parlare e riconoscere le immagini, ma per gli appassionati di tecnologia e i seguaci, tutto il clamore intorno all'aggiornamento del prodotto è stato oscurato dalla realtà che i dipendenti in uscita dell'azienda potrebbero riconoscere le immagini, ma non sono autorizzati a parlare.

«Negli ultimi anni, la cultura e i processi di sicurezza sono passati in secondo piano rispetto ai prodotti innovativi.» Jan Leike.

Poco dopo il debutto di ChatGPT-4o, Ilya Sutskever, co-fondatore e chief scientist di OpenAI, ha lasciato l'azienda. Sutskever guidava anche il team Superalignment, che si occupa delle questioni di sicurezza relative ai prodotti di intelligenza artificiale dell'azienda.

Leggi anche: OpenAI presenta Chatgpt-4o: accesso gratuito con limitazioni

Ore dopo la partenza di Sutskever, anche un altro co-leader del team Superalignment, Jan Leike, ha lasciato l'azienda. La partenza di entrambi gli esperti di sicurezza ha fatto pensare a un possibile cambiamento nelle preferenze di sicurezza di OpenAI, e sono iniziati i pettegolezzi secondo cui si sarebbero dimessi per protesta.

Altman si è scusato per gli errori nella politica sulle azioni

Molti osservatori accusano Altman di essere abile nel rilasciare dichiarazioni pubbliche, ma lo criticano per lavorare praticamente contro ciò che dice.

Oggi, Altman ha pubblicato su X come l'azienda gestisce le azioni dei suoi dipendenti. Ha menzionato che c'era una disposizione sulla potenziale cancellazione delle azioni nei loro documenti precedenti, ma non hanno mai richiesto nulla indietro. Ha detto che non avrebbe dovuto esserci in nessuno dei loro documenti.

Altman ha anche detto che il loro team stava già correggendo la documentazione di uscita da un mese, e chiunque abbia lasciato l'azienda con documenti vecchi firmati poteva contattarlo per la correzione. Ha anche detto che è una delle poche volte in cui è imbarazzato a gestire l'azienda.

Ma guardando alla storia, come abbiamo detto prima, Altman è stato accusato di contraddizioni tra le sue parole e le sue pratiche; ad esempio, viene criticato per aver convinto l'Arabia Saudita a investire miliardi nella creazione di acceleratori AI. Sapendo che il paese è una monarchia e che persone potenti possono usare la tecnologia per controllare la società. 

Questo è successo nello stesso momento in cui ha applaudito la sicurezza dell'IA e ha firmato una lettera al governo degli Stati Uniti per fermare lo sviluppo rapido dell'IA per salvare l'umanità dai danni. È stato anche abbastanza furbo da trasformare un'organizzazione no-profit in una startup tecnocratica e poi mettere la commercializzazione su turbo boost. Non è semplice e richiede una sorta di inganno per farlo accadere.

Non tutto è semplice a OpenAI

C'è anche una storia coinvolta. Quando il CEO Sam Altman è stato licenziato dal consiglio di amministrazione dell'azienda l'anno scorso prima di tornare rapidamente nella sua posizione, Sutskever era anche nel consiglio che ha preso la decisione. 

Ma Sutskever ha rapidamente cambiato posizione e si è pentito della sua decisione; ha persino iniziato a lavorare con i dipendenti che volevano Altman di nuovo in azienda. Sutskever ha anche firmato la lettera che chiedeva il ritorno di Altman. 

Da quando Altman è tornato in azienda, la posizione di Sutskever è rimasta incerta, ed è stato anche rimosso dal consiglio, come molti altri dopo il ritorno di Altman. Mentre Altman ha mostrato il suo dolore per la partenza di Sutskever, dicendo,

«Ilya e OpenAI stanno andando per strade diverse. Questo mi rende molto triste; Ilya è facilmente uno dei più grandi menti della nostra generazione, una luce guida del nostro campo e un caro amico.» Fonte: pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita..

L'ex chief scientist ha detto che sta partendo per qualcosa di personalmente importante per lui. Mentre non sappiamo cosa sia questa cosa o progetto, sembra che forse sia la preoccupazione per la sicurezza dell'IA, che si pensa sia il focus principale delle preferenze di Sutskever per tutto il tempo ha lavorato a OpenAI.

Leggi anche: Il CEO di OpenAI si esprime sulla potenziale rete di sicurezza sociale guidata dall'IA

D'altra parte, l'annuncio di Leike è stato diretto, ha semplicemente detto: «Mi sono dimesso», e in seguito ha spiegato le sue preoccupazioni in una serie di post su X. Altman dice che stanno lavorando per correggere i documenti di uscita, ma un altro ex dipendente dell'azienda, Daniel Kokotaijlo, ha detto che ha rinunciato alle sue azioni per non aver firmato l'accordo. Ha annunciato che ha lasciato l'azienda perché ha perso «la fiducia che si comporterebbe in modo responsabile intorno al momento dell'AGI.»

Mentre Altman ha detto che qualsiasi ex dipendente può contattarli e loro esamineranno la questione, non possiamo essere certi di come questo si concretizzi in una scena in cui è in corso un'esodo di dipendenti e i dipendenti stanno sollevando domande sulle pratiche di sicurezza dell'IA in cambiamento dell'azienda.

Reportage di Cryptopolitan a cura di Aamir Sheikh