OpenAI schiera il successore di GPT-4 nonostante i problemi di sicurezza  

OpenAI sta addestrando un nuovo sistema di intelligenza artificiale per sostituire GPT-4, mentre l'azienda punta a rilanciare la propria reputazione. Il modello sarà preceduto da un comitato per la sicurezza e la protezione guidato dal CEO Sam Altman e da altri tre membri del consiglio di amministrazione. 

Leggi anche: ChatGPT continua a diffondere falsità, afferma l'ente di controllo dei dati dell'UE

L'azienda con sede a San Francisco è sotto pressione per dimostrare il suo impegno in materia di sicurezza. I ricercatori sui rischi Jan Leike e Gretchen Krueger, recentemente dimessisi, hanno denunciato la presunta scarsa cultura della sicurezza su X, precedentemente nota come Twitter.

OpenAI addestra il "modello di prossima frontiera"

In un post sul blog pubblicato martedì, la società ha affermato:

"OpenAI ha recentemente iniziato ad addestrare il suo modello di prossima frontiera e prevediamo che i sistemi risultanti ci porteranno al livello successivo di capacità nel nostro percorso verso l'intelligenza artificiale generale (AGI)."

OpenAI non ha specificato quando verrà rilasciato il successore di GPT-4 né quali saranno le sue potenzialità. L'azienda, valutata 80 miliardi di dollari, ha fatto la mossa del pioniere con il suo popolarissimo chatbot basato sull'intelligenza artificiale, ChatGPT, in un momento in cui aziende come Google sono rimaste in disparte per valutare il rischio reputazionale.

Sebbene OpenAI sia all'avanguardia nella corsa all'intelligenza artificiale generativa, fortemente contesa da Anthropic, Google, Microsoft e altri, l'azienda non ha sempre superato l'esame etico.

In un post su X in cui annunciava le sue dimissioni da OpenAI, Leike ha rivelato che "negli ultimi anni, la cultura e i processi relativi alla sicurezza sono passati in secondo piano rispetto ai prodotti accattivanti".

Krueger ha scritto che l'azienda deve "fare di più per migliorare aspetti fondamentali come i processi decisionali, la responsabilità, la trasparenza, l'applicazione delle politiche e la cura con cui utilizziamo la nostra tecnologia".

La scorsa settimana, una task force dell'Unione Europea ha rincarato la dose, segnalando che ChatGPT, il prodotto di punta dell'azienda, non soddisfa i suoi standard di accuratezza.

L'azienda propone la sicurezza dell'intelligenza artificiale come punto di forza chiave

Nel frattempo, il recente aggiornamento del modello GPT-4 si è immediatamente scontrato con una controversia di alto profilo, con l'attrice Scarlett Johansson che ha accusato l'azienda di utilizzo non autorizzato della sua voce.

Leggi anche: OpenAI elimina ChatGPT Voice dopo la controversia su Scarlett Johansson

Ora, l'azienda sta accelerando il suotracverso la lavanderia a gettoni, proponendo la sicurezza come punto di forza del suo prossimo programma di intelligenza artificiale. L'azienda desidera inoltre essere riconosciuta dalle autorità di regolamentazione come una delle aziende che sviluppa un'intelligenza artificiale responsabile. Nel suo post sul blog, OpenAI ha aggiunto:

"Siamo orgogliosi di costruire e lanciare modelli leader del settore sia in termini di capacità che di sicurezza, ma accogliamo con favore un dibattito approfondito in questo momento importante"

Il nuovo comitato per la sicurezza e la protezione sarà guidato dai direttori Altman, Bret Taylor (presidente), Adam D'Angelo e Nicole Seligman. Faranno parte del comitato anche il responsabile della preparazione, il responsabile dei sistemi di sicurezza, il responsabile della scienza dell'allineamento, il responsabile della sicurezza e il capo scienziato dell'azienda.

OpenAI ha affermato che nei prossimi tre mesi il comitato "valuterà e svilupperà ulteriormente processi e misure di sicurezza" e riferirà ad altri tre direttori.

L'azienda ha sciolto il suo team di sicurezza all'inizio di questo mese, in seguito alla partenza del responsabile del team e co-fondatore di OpenAI, Ilya Sutskever.

Cryptopolitan Reporting di Jeffrey Gogo