OpenAI introduce un Comitato per la Sicurezza e la Sicurezza per supervisionare i loro progetti IA

Per migliorare la sicurezza dei progetti di machine learning, OpenAI ha annunciato la formazione di un Comitato di Sicurezza e Sicurezza. Questo nuovo organo di governance emerge alla luce dei recenti cambiamenti nell'organizzazione come l'abolizione del suo team interno Superalignment che si occupa dei rischi posti dall'AI.

L'annuncio del comitato segue una serie di cambiamenti strategici all'interno dell'azienda, insieme all'inizio dell'addestramento per il modello di prossima generazione dell'azienda che suggerisce una progressione verso l'AGI.

Il consiglio di amministrazione di OpenAI forma un Comitato di Sicurezza e Sicurezza, responsabile di fare raccomandazioni su decisioni critiche di sicurezza e sicurezza per tutti i progetti OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 18 mag. 28, 2024

OpenAI Introduce un Nuovo Comitato per un Miglior Supervisione sull'AI

Gli sviluppatori di GPT-4, OpenAI, hanno migliorato ulteriormente il loro gioco costituendo un Comitato di Sicurezza e Sicurezza di nove membri. Questo pannello include i dirigenti dell'organizzazione. Sam Altman come CEO e presidente del consiglio, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki. La loro responsabilità principale sarà quella di migliorare la gestione del processo di gestione del rischio AI. Si prevede che un rapporto dettagliato venga presentato al consiglio di amministrazione entro i prossimi novanta giorni.

Leggi anche: Amazon fatica a sfidare la supremazia dei chip AI di Nvidia

Lo spostamento di OpenAI nella supervisione della sicurezza segue numerosi cambiamenti di leadership come l'uscita di Ilya Sutskever, e Jan Leike, e lo scioglimento del team Superalignment responsabile della sicurezza AI. Questa ristrutturazione mostra il desiderio di OpenAI di migliorare le sue strategie di gestione del rischio AI mentre estende la frontiera dell'innovazione AI.

OpenAI Sta Addestrando il Prossimo Modello di Frontiera

Oltre al nuovo comitato, OpenAI ha iniziato ad addestrare quello che chiamano il loro modello di prossima frontiera. Questo modello mira a superare le capacità dei modelli attuali e ad avvicinarsi al raggiungimento dell'AGI. Questo movimento fa parte della loro missione in corso di creare soluzioni AI che possono eseguire efficacemente ed efficientemente vari compiti. Il Chief Technology Officer di OpenAI Mira Murati ha notato che gli aggiornamenti principali di GPT-4 presenteranno miglioramenti maggiori nel modello e potrebbero riflettere tali sviluppi nella tecnologia e nei casi d'uso correlati.

Leggi anche: Le Aziende AI Cinesi Iniziano una Feroce Guerra dei Prezzi

Le ultime intuizioni da Microsoft, un partner importante che fornisce infrastrutture cloud per la ricerca AI, indicano che il nuovo modello rappresenterà un grande avanzamento, che Tom Warner, il CTO di Microsoft, caratterizza come uno spostamento da un 'orca' a una 'balena' in termini di capacità e dimensioni.

L'Attesa Intorno a GPT-5 Si Intensifica

In mezzo a queste tendenze, ci sono pettegolezzi riguardo alla versione preliminare del modello linguistico di prossima generazione di OpenAI etichettato GPT-5. Rapporti di marzo mostrano che solo un piccolo numero di utenti ha utilizzato questo prototipo e ha menzionato che ci sono miglioramenti rispetto a GPT-4. Questo buzz ha creato enormi aspettative tra i tecnologicamente esperti e il pubblico generale mentre gli stakeholder aspettano di saperne di più sulle prospettive di questo nuovo modello.

Tutto ciò che OpenAI ha fatto, dal riorganizzare il consiglio di sicurezza all'anticipare la sua tecnologia, punta verso il quadro generale per mantenere la sua posizione come uno dei leader nello sviluppo dell'AI. L'evoluzione costante di OpenAI e l'integrazione di piattaforme sostenibili la rendono una delle aziende leader che aiutano a definire il percorso verso il futuro della tecnologia AI.

Segnalazione di Cryptopolitan di Chris Murithi