- Jan Leike, responsabile del team Superalignment di OpenAI, ha sollevato gravi dubbi sulle mutate pratiche di sicurezza dell'azienda.
- Leike ha lasciato l'azienda poche ore dopo la partenza del co-fondatore Ilya Sutskever.
- Si dice che il team Superalignment sia stato smantellato dall'azienda, lasciando i suoi modelli di intelligenza artificiale sotto una minore sorveglianza.
Dopo che il co-fondatore Ilya Sutskever ha lasciato l'azienda all'inizio di questa settimana, Jan Leike, un ricercatore prominente, ha annunciato venerdì mattina che “la cultura e i processi di sicurezza sono passati in secondo piano rispetto ai prodotti lucidi” nell'azienda.
Jan Leike ha dichiarato in una serie di post sulla piattaforma social X che si è unito alla startup con sede a San Francisco perché credeva che sarebbe stato il posto migliore per condurre ricerche sull'IA.
Leike ha guidato il team “Superalignment” di OpenAI con un co-fondatore che ha anche lasciato l'azienda questa settimana.
Il team Superalignment di OpenAI non è più intatto
Il team Superalignment di Leike è stato formato a luglio dello scorso anno presso OpenAI per affrontare le principali sfide tecniche nel dispiegare misure di sicurezza mentre l'azienda avanza nell'IA in grado di razionalizzare come un essere umano.
Le dichiarazioni di Leike sono arrivate dopo un rapporto di WIRED Chich che affermava che OpenAI aveva sciolto completamente il team Superslignment, incaricato di affrontare i rischi a lungo termine associati all'IA.
Leggi anche: Il chief scientist di OpenAI, Ilya Sutskever, saluta
Sutskever e Leike non erano gli unici dipendenti ad aver lasciato l'azienda. Almeno altri cinque dei lavoratori più attenti alla sicurezza di OpenAI hanno lasciato l'azienda o sono stati licenziati da novembre scorso, quando il consiglio ha tentato di licenziare il CEO Sam Altman, solo per vederlo giocare le sue carte per riconquistare la sua posizione.
OpenAI dovrebbe diventare un'azienda AGI prima sulla sicurezza
Leike ha sottolineato la caratteristica più controversa della tecnologia su diverse piattaforme: un'immagine prospettica di robot che sono generalmente intelligenti come gli esseri umani o almeno capaci di eseguire molti compiti altrettanto bene, scrivendo che OpenAI deve trasformarsi in un'azienda AGI prima sulla sicurezza.
In risposta ai post di Leike, Sam Altman, CEO di Open AI, ha espresso la sua gratitudine per i servizi di Leike all'azienda e la sua tristezza per la sua partenza.
Altman ha dichiarato in un post su X che Leike ha ragione e che avrebbe scritto un post lungo sull'argomento nei prossimi giorni. Ha anche detto che,
“Abbiamo ancora molto da fare; siamo impegnati a farlo.”
Leike ha lasciato il team superalignment di OpenAI e John Schulman, un co-fondatore dell'azienda, ha preso il sopravvento.
Ma c'è una vuoto nel team. Inoltre, Schulman è già sovraccaricato dal suo lavoro a tempo pieno che garantisce la sicurezza dei prodotti esistenti di OpenAI. Quanto lavoro di sicurezza significativo e orientato al futuro è possibile che OpenAI produca? Non sembra esserci una risposta soddisfacente a questo.
Jan Leike ha differenze ideologiche con la direzione
Come suggerisce già il nome dell'organizzazione, OpenAI, originariamente intendeva condividere i suoi modelli liberamente con il pubblico, ma l'azienda ora afferma che rendere tali modelli potenti disponibili a chiunque potrebbe essere dannoso, quindi i modelli sono stati trasformati in conoscenza proprietaria.
Leike ha dichiarato in un post che era in disaccordo con la direzione di OpenAI sulle priorità che stavano imponendo all'azienda da un po' di tempo, fino a quando non hanno finalmente raggiunto un punto di rottura.
Mi sono unito perché pensavo che OpenAI sarebbe stato il posto migliore al mondo per fare questa ricerca.
— Jan Leike (@janleike) 18 mag. 17, 2024
Tuttavia, sono in disaccordo con la leadership di OpenAI riguardo alle priorità fondamentali dell'azienda da molto tempo, fino a raggiungere un punto di rottura.
L'ultimo giorno di Leike in azienda è stato giovedì, dopo di che ha rassegnato le dimissioni e non ha addolcito le sue dimissioni con saluti calorosi o alcun accenno di fiducia nella direzione di OpenAI. Su X, ha pubblicato: “Mi sono dimesso.”
Un follower di Leike ha detto in un commento che è felice che Leike non sia più membro del loro gruppo. Le ideologie woke non sono in linea con l'umanità. Più allineata diventa, più viene inserita nell'IA.
Leggi anche: OpennnAI protegge i contenuti di Reddit per il miglioramento di ChatGPT
Il follower ha detto che richiederebbe anche una definizione di allineamento da tutti gli allineatori. Stava puntando a una raccomandazione in cui Leike ha chiesto ad altri dipendenti di OpenAI che crede di poter realizzare il cambiamento culturale necessario nell'azienda.
L'azienda di IA leader del mondo sembra cambiare rotta riguardo alle misure di sicurezza spesso sottolineate dagli esperti, e la partenza dei principali esperti di sicurezza dall'azienda lo conferma probabilmente.
Reportage di Cryptopolitan a cura di Aamir Sheikh
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
