OpenAI prepara il successore di GPT-4 in mezzo a preoccupazioni sulla sicurezza  

OpenAI sta addestrando un nuovo sistema AI per succedere a GPT-4 mentre l'azienda cerca di ottenere un riavvio reputazionale. Il modello sarà preceduto da un comitato di sicurezza e sicurezza guidato dal CEO Sam Altman e da altri tre direttori del consiglio. 

Leggi anche: ChatGPT continua a diffondere falsità, afferma l'autorità di vigilanza sui dati dell'UE

L'azienda con sede a San Francisco è sotto pressione per dimostrare il suo impegno per la sicurezza. I ricercatori sui rischi dimessisi recentemente Jan Leike e Gretchen Krueger hanno esposto la presunta scarsa cultura della sicurezza di OpenAI su X, precedentemente Twitter.

OpenAI Addestra il 'Modello di Prossima Frontiera'

In un post sul blog pubblicato martedì, l'azienda ha dichiarato:

"OpenAI ha recentemente iniziato ad addestrare il suo modello di prossima frontiera e prevediamo che i sistemi risultanti ci porteranno al livello successivo di capacità sul nostro percorso verso l'intelligenza artificiale generale (AGI)."

OpenAI non ha detto quando il successore di GPT-4 sarebbe stato rilasciato o cosa potrebbe fare. L'azienda, valutata 80 miliardi di dollari, ha preso una mossa di primo movimento con il suo chatbot AI enormemente popolare, ChatGPT, in un momento in cui i preferiti come Google hanno preso le distanze per valutare il rischio reputazionale.

Mentre OpenAI è un favorito nella gara di intelligenza artificiale generativa che è strettamente contesa da Anthropic, Google, Microsoft e altri, l'azienda non ha sempre sostenuto lo scrutinio etico.

In un post che annunciava la sua dimissione da OpenAI su X, Leike ha rivelato che "negli ultimi anni, la cultura e i processi di sicurezza hanno preso le distanze dai prodotti brillanti."

Krueger ha scritto che l'azienda deve "fare di più per migliorare le cose fondamentali come i processi decisionali, la responsabilità, la trasparenza, l'applicazione delle politiche e la cura con cui utilizziamo la nostra stessa tecnologia."

La scorsa settimana, un gruppo di lavoro dell'Unione Europea ha sottolineato la critica, segnalando che ChatGPT, il prodotto di punta dell'azienda, non raggiunge i suoi standard di accuratezza.

L'Azienda Punta sulla Sicurezza AI come Punto di Vendita Chiave

Nel frattempo, l'aggiornamento recente di OpenAI al suo modello GPT-4 si è scontrato istantaneamente in una controversia di alto profilo, con l'attrice Scarlett Johansson che accusa l'azienda di uso non autorizzato della sua voce.

Leggi anche: OpenAI abbandona la voce di ChatGPT dopo la controversia con Scarlett Johansson

Ora, l'azienda sta portando la sua corsa veloce alla lavanderia mentre punta sulla sicurezza come punto di vendita del suo prossimo programma AI. L'organizzazione è anche ansiosa di essere vista dai regolatori come sviluppatrice di AI responsabile. Nel suo post sul blog, OpenAI ha aggiunto:

"Mentre siamo orgogliosi di costruire e rilasciare modelli che sono leader del settore sia nelle capacità che nella sicurezza, accogliamo con favore un dibattito robusto in questo momento importante."

Il nuovo comitato di sicurezza e sicurezza sarà guidato dai direttori Altman, Bret Taylor (presidente), Adam D'Angelo e Nicole Seligman. Il capo della preparazione dell'azienda, il capo dei sistemi di sicurezza, il capo della scienza di allineamento, il capo della sicurezza e il chief scientist saranno anche nel comitato.

OpenAI ha detto che il comitato nei prossimi tre mesi "valuterà e svilupperà ulteriormente processi e salvaguardie" e riferirà a tre altri direttori.

L'azienda ha sciolto il suo team di sicurezza all'inizio di questo mese dopo la partenza del leader del team e co-fondatore di OpenAI Ilya Sutskever.

Reportage di Cryptopolitan di Jeffrey Gogo